El equipo Superalignment de OpenAI, en medio de la turbulencia de la polémica salida y regreso de Sam Altman a la compañía, se mantuvo enfocado en su tarea crucial: desarrollar métodos para controlar sistemas de inteligencia artificial que superen la inteligencia humana.
Esta dedicación fue evidente durante una reciente conferencia en Nueva Orleans, donde los miembros del equipo Collin Burns, Pavel Izmailov y Leopold Aschenbrenner presentaron su última investigación sobre asegurar la alineación de los sistemas de inteligencia artificial con los comportamientos previstos, según informa TechCrunch.
El equipo Superalignment, formado en julio y liderado por Microsoft Corp (NASDAQ: MSFT) y el cofundador de OpenAI, Ilya Sutskever, regula y gobierna sistemas de inteligencia artificial superinteligentes.
También puedes leer: Mistral AI, rival de OpenAI, recauda 385M€ en financiamiento
Esta iniciativa adquirió una importancia adicional considerando la implicación de Sutskever en la partida de Altman y su papel de liderazgo continuo después del regreso de Altman.
Los esfuerzos del equipo son cruciales, especialmente considerando la creencia de Sutskever en el potencial de la IA como una amenaza existencial.
Actualmente, el equipo está elaborando marcos de gobernanza para sistemas de IA futuros y robustos, una tarea complicada por el concepto nebuloso de “superinteligencia”.
Su estrategia implica usar un modelo de IA más simple para dirigir uno más sofisticado, asegurándose de que cumpla con los objetivos deseados y los protocolos de seguridad. Este enfoque también mitiga las “alucinaciones” de la IA, es decir, instancias en las que la IA genera información falsa o engañosa.
OpenAI anunció un programa de subvenciones de 10 millones de dólares para continuar esta investigación, contando con el apoyo de personas destacadas como el ex CEO de Google de Alphabet Inc (NASDAQ:GOOG) (NASDAQ:GOOGL), Eric Schmidt. A pesar de los intereses comerciales de Schmidt en la IA, su participación subraya la creciente preocupación e interés en la gestión de la IA superinteligente.
El trabajo del equipo de Superalignment y las contribuciones de la comunidad de investigación en general, financiadas por esta subvención, serán compartidas públicamente. Este compromiso refleja la dedicación de OpenAI al desarrollo seguro y beneficioso de tecnologías avanzadas de IA para el mejoramiento de la humanidad.
Descargo de responsabilidad: Este contenido fue producido parcialmente con la ayuda de herramientas de IA y fue revisado y publicado por editores de Benzinga.
También puedes leer: OpenAI reconoce problema: ChatGPT y GPT-4 más lentos de lo habitual