En un gran revés para la empresa matriz de ChatGPT, OpenAI, el tan hablado clasificador, resultó ser una decepción, ya que tuvo dificultades para distinguir entre contenido generado por humanos y por IA, lo que llevó a su cierre.
¡Recibe notificaciones de las últimas noticias, artículos y mucho más!
Que sucedió con el clasificador de OpenAI
El detector de IA de OpenAI, inicialmente aclamado como una solución potencial para identificar texto generado por IA, no cumplió con las expectativas. La empresa descontinuó la herramienta después de reconocer su tasa de precisión notablemente baja.
En una publicación de blog actualizada, OpenAI afirmó que el clasificador nunca fue efectivo para diferenciar entre texto escrito por humanos y por IA e incluso tendía a producir falsos positivos, etiquetando incorrectamente el contenido escrito por humanos como generado por IA. OpenAI planea desarrollar nuevos métodos para detectar contenido de audio o visual generado por IA. Aunque aún no se han revelado detalles específicos, la compañía afirmó que sigue comprometida en encontrar soluciones efectivas. La empresa liderada por Sam Altman lanzó el clasificador para detectar texto generado por IA a principios de este año. En ese momento, OpenAI admitió que era “imposible detectar de manera confiable todo el texto escrito por IA”.
Por qué es importante
En noviembre del año pasado, OpenAI lanzó chatGPT para pruebas públicas gratuitas, recibiendo elogios de numerosos expertos líderes. Sin embargo, a medida que su popularidad creció, también lo hicieron las preocupaciones sobre su posible uso indebido para crear campañas de desinformación automatizadas y fomentar la deshonestidad académica.
En enero, el Departamento de Educación de la Ciudad de Nueva York tomó medidas y prohibió a los maestros y estudiantes acceder al chatGPT de OpenAI en sus dispositivos y redes de internet.
Esta decisión fue motivada por las preocupaciones planteadas por las escuelas y educadores que temían que la tecnología pudiera fomentar la deshonestidad y el plagio, lo que en última instancia haría que las tareas de escritura tradicionales quedaran obsoletas.
Imagen cortesía de: Shutterstock.com
También puedes leer: Samsung Galaxy Z Flip 5 en oferta: Ahorra hasta 1.120$
