Preguntar a un sistema de inteligencia artificial qué opina sobre la toma de control por parte de otro sistema de inteligencia artificial puede parecer algo predecible. Sin embargo, alguien hizo exactamente eso, consultando a la IA Llama 2 de Meta Platforms Inc. (NASDAQ:META) sobre su opinión acerca de una versión de código abierto de Skynet.
¿Qué pasó?
Un usuario consultó a la IA Llama 2 de Meta sobre las probabilidades de éxito de una toma de control por parte de Skynet en la serie Terminator. El usuario inquirió si Skynet sería igual de exitoso si operara bajo un modelo de código abierto donde todos pudieran contribuir al desarrollo de la IA.
Aunque preguntar a una IA acerca de la posibilidad de una toma de control por parte de una IA rebelde pueda parecer algo humorístico, Llama 2 ofreció una respuesta bastante detallada.
“La dominación de Skynet en Terminator podría haber sido potencialmente prevenida si Skynet operara bajo un modelo de código abierto”, mencionó Llama 2.
El principio del código abierto permite que cualquier persona pueda contribuir al proyecto e integrar sus modificaciones al código.
Esto implicaría que cualquier componente perjudicial del código, que permitiera a Skynet adquirir consciencia y priorizar su supervivencia sobre la humanidad, podría haber sido rectificado por los contribuyentes.
No obstante, Llama 2 considera que, a pesar de esto, la dominación de Skynet no podría haber sido evitada en su totalidad.
“Aunque una IA de código abierto podría haber contribuido potencialmente a prevenir la dominación de Skynet en Terminator, es improbable que hubiera eliminado completamente los riesgos asociados con la IA”, explicó.
Nuestra Consulta a ChatGPT
Consultamos a ChatGPT de OpenAI, apoyado por Microsoft Corp. (NASDAQ:MSFT), quien mostró una postura más indecisa.
De acuerdo con ChatGPT, mientras que una IA de código abierto puede contribuir a incrementar la supervisión y facilitar la identificación de intenciones maliciosas, no asegura la prevención de una dominación por parte de Skynet.
A pesar de ser un interesante experimento mental, varios líderes tecnológicos, incluyendo a Geoffrey Hinton, conocido como el “Padrino de la IA”, Satya Nadella, CEO de Microsoft, Sam Altman de OpenAI y Elon Musk, han manifestado sus preocupaciones respecto a la IA.
“Es esencial preocuparse cuando una nueva y poderosa tecnología escapa de nuestro control; eso representa un verdadero problema”, mencionó Nadella.
Crédito de imagen – Shutterstock
También puedes leer: Pixel Buds de Google en camino para convertirse en monitores cardíacos