El CEO de Apple Inc. (NASDAQ:AAPL), Tim Cook, ha expresado incertidumbre sobre la capacidad de la compañía para prevenir completamente las alucinaciones de inteligencia artificial (IA).
Apple Intelligence puede generar información falsa
En una entrevista con The Washington Post publicada el martes, Cook admitió que el nuevo sistema Apple Intelligence de la compañía podría generar información falsa o engañosa, según informó The Verge.
A pesar de los esfuerzos de Apple para asegurar la calidad de la tecnología, Cook reconoció que aún existe la posibilidad de errores.
“Creo que hemos hecho todo lo que sabemos hacer, incluyendo pensar muy profundamente sobre la preparación de la tecnología en las áreas en las que la estamos utilizando”, dijo, añadiendo, “Así que estoy seguro de que será de muy alta calidad. Pero diría con toda honestidad que eso está por debajo del 100%. Nunca afirmaría que es 100%”.
El sistema Apple Intelligence, presentado en la Conferencia Mundial de Desarrolladores (WWDC), introdujo varias funciones de IA en dispositivos como el iPhone, iPad y Mac. Estas funciones permitirán a los usuarios realizar tareas como generar respuestas de correo electrónico, crear emoji personalizados y resumir texto.
Sin embargo, al igual que otros sistemas de IA, existe el riesgo de generar información falsa, como se ha visto anteriormente con el modelo de IA Gemini de Google y ChatGPT de OpenAI.
En la WWDC 2024, Apple también anunció una asociación con OpenAI para integrar ChatGPT en Siri. Cook afirmó que Apple eligió a OpenAI debido a sus sólidas medidas de privacidad y la calidad de su modelo. También insinuó posibles asociaciones futuras con otras empresas.
El vicepresidente senior de ingeniería de software de Apple, Craig Federighi, también ha insinuado que el gigante tecnológico podría aprovechar Google Gemini en el futuro.
También puedes leer: 5 acciones en foco el miércoles: AVGO, ORCL, PLAY, MAMA, OXM
¿Por qué los chatbots de IA alucinan?
El problema de las alucinaciones de la IA no es nuevo en la industria tecnológica. Anteriormente, en un episodio del podcast de Lex Fridman, Yann LeCun, el científico jefe de IA en Meta Platforms Inc. (NASDAQ:META), explicó el fenómeno de las alucinaciones de la IA.
“Debido a la predicción autorregresiva, cada vez que una IA produce un token o una palabra, hay algún nivel de probabilidad de que esa palabra te saque del conjunto de respuestas razonables”, explicó LeCun, ilustrando cómo los chatbots pueden desviarse en las conversaciones.
El año pasado en abril, el CEO de Alphabet Inc. (NASDAQ:GOOG) (NASDAQ:GOOGL), Sundar Pichai, también reconoció que la tecnología de IA aún está luchando con los “problemas de alucinación” sin una explicación clara. “Nadie en el campo ha resuelto todavía los problemas de alucinación. Todos los modelos tienen esto como un problema”, dijo en ese momento.
Imagen vía Shutterstock
También puedes leer: Cramer: Eli Lilly alcanzará 1B$ con su nuevo medicamento
Para más actualizaciones sobre este tema, activa las notificaciones de Benzinga España o síguenos en nuestras redes sociales: X y Facebook.
Recibe información exclusiva sobre los movimientos del mercado 30 minutos antes que otros traders
La prueba gratuita de 14 días de Benzinga Pro, disponible en inglés, te da acceso a información exclusiva para que puedas recibir señales de trading útiles antes que millones de otros traders. HAZ CLIC AQUÍ para comenzar tu prueba gratuita.