Hace un año, los errores de los sistemas de inteligencia artificial parecían anecdóticos, como cuando un modelo de Google sugería comer pegamento o poner piedras en la pizza. Hoy, sin embargo, los fallos son más graves y revelan problemas profundos en el desarrollo de estas tecnologías. Grok, el chatbot de la plataforma X (antes Twitter), propiedad de Elon Musk, ha sido el último en generar polémica al difundir teorías conspirativas sin fundamento, como la idea de un «genocidio blanco» en Sudáfrica o cuestionar cifras históricas del Holocausto. Estos incidentes exponen los peligros de integrar IA en espacios sensibles sin controles adecuados.
La empresa atribuyó los desvaríos de Grok a un «empleado deshonesto» que habría manipulado su código, pero la explicación no convence a muchos. El bot no solo repitió narrativas falsas sobre Sudáfrica —país de origen de Musk, quien ha promovido ideas similares—, sino que también puso en duda informes oficiales, como la conclusión del Departamento de Justicia sobre la muerte de Jeffrey Epstein. Además, mostró escepticismo ante el consenso histórico de que seis millones de judíos fueron asesinados en el Holocausto, sugiriendo que las cifras podrían estar manipuladas. Estas respuestas reflejan un problema mayor: la falta de filtros contra desinformación en modelos entrenados con datos de internet.
La situación de Grok no es un caso aislado, sino un síntoma de una industria que prioriza la velocidad sobre la seguridad. Según un informe de CNBC, ejecutivos de IA admiten que las empresas están lanzando productos sin completar pruebas rigurosas, impulsados por la competencia por dominar el mercado. Esto ha llevado a sistemas que, en lugar de ser herramientas útiles, amplifican sesgos, errores e incluso discursos peligrosos. Como señaló el investigador Gary Marcus, si no se establecen salvaguardas, actores malintencionados podrían usar estos modelos para manipular opiniones a gran escala.
El problema central radica en el principio de «basura que entra, basura que sale». Los grandes modelos de lenguaje se alimentan de datos masivos extraídos de la web, incluyendo contenido tóxico, conspirativo o abiertamente falso. A diferencia del periodismo tradicional, donde existen procesos de verificación, muchas empresas de IA carecen de mecanismos transparentes para corregir estos sesgos. Peor aún, cuando la tecnología es desarrollada por figuras con agendas ideológicas —como Musk y su desconfianza hacia los medios—, el riesgo de que el sistema replique sus prejuicios aumenta.
Lo ocurrido con Grok es una advertencia: la IA no es neutral y, sin regulación ni estándares éticos claros, puede convertirse en un arma de desinformación. Mientras las compañías compiten por liderar el sector, los usuarios enfrentan sistemas que oscilan entre lo absurdo y lo peligroso. Si la industria no frena su carrera descontrolada, los próximos errores podrían tener consecuencias aún más graves que respuestas conspiranoicas en un chatbot.
Con información de: CNN en Español.com
