En un movimiento para fomentar el uso ético de la inteligencia artificial (IA), Meta Platforms Inc. (NASDAQ:META) ha introducido “Purple Llama”, un proyecto diseñado para ayudar a los desarrolladores a crear IA responsable, anunció la compañía el miércoles.
Lo que hay que saber
Meta reveló que el proyecto está diseñado para amalgamar herramientas y evaluaciones para ayudar a los desarrolladores en el desarrollo responsable de modelos generativos de IA abiertos. El proyecto toma su nombre de color único del concepto de ciberseguridad de equipo púrpura, que combina estrategias ofensivas y defensivas, ofreciendo un enfoque integral para evaluar y mitigar posibles riesgos.
La versión inicial de “Purple Llama” contará con herramientas y evaluaciones para ciberseguridad y salvaguardas de entrada/salida. Estos componentes estarán licenciados de manera permisiva, haciéndolos accesibles tanto para fines de investigación como comerciales.
También puedes leer: Meta lanza un nuevo generador de imágenes de IA
Como parte de su compromiso con la ciencia abierta y transparente, Meta también está lanzando “Llama Guard”, un modelo fundamental para ayudar a los desarrolladores a evitar la generación de salidas potencialmente riesgosas. Este modelo ha sido entrenado en varios conjuntos de datos públicamente disponibles para detectar contenido comúnmente riesgoso o que viola las normas.
Meta prevé permitir a los desarrolladores adaptar las versiones futuras según sus requisitos específicos, facilitando así la adopción de las mejores prácticas y el mejoramiento del ecosistema abierto. La empresa espera colaborar con socios que compartan una visión similar para un ecosistema abierto de IA generativa desarrollada de manera responsable.
Por qué es importante
El lanzamiento de Purple Llama representa los esfuerzos continuos de Meta hacia el desarrollo seguro de IA, siguiendo el lanzamiento de LLaMA en febrero de este año para asistir a investigadores e ingenieros en el avance de aplicaciones de IA.
Además, el énfasis de la compañía en la IA se destacó durante su conferencia anual Connect, donde la IA ocupó un lugar central, indicando un cambio en el enfoque de la compañía de la realidad virtual al desarrollo de IA. Compitiendo con ChatGPT de OpenAI y Bing Chat de Microsoft, algunos investigadores de IA creen que LLaMa remodelará el paisaje de los Modelos de Lenguaje a Gran Escala (LLM), a pesar de que muchos inversores encuentran su propuesta de valor esquiva.
Crédito de imagen – Shutterstock
También puedes leer: SpaceX rompe récords al completar el vuelo 90 de 2023