Un reciente estudio ha demostrado que los agentes de inteligencia artificial (IA) pueden establecer convenciones sociales y lingüísticas de manera autónoma, sin necesidad de una programación previa. A diferencia de los chatbots tradicionales, estos sistemas emplean modelos de lenguaje avanzados (LLM) para interactuar con entornos digitales, ejecutar tareas complejas y colaborar entre sí, imitando procesos similares a los que ocurren en sociedades humanas. La investigación, llevada a cabo por científicos de la City St George’s University of London y la Universidad Tecnológica de Copenhague, plantea nuevas preguntas sobre cómo evolucionará la convivencia entre humanos y máquinas.

Para explorar esta capacidad, los investigadores utilizaron el «juego de nombres», una técnica diseñada para analizar la formación de normas en grupos. En los experimentos, participaron entre 24 y 200 agentes basados en modelos como Llama-2, Llama-3 y Claude-3.5, que debían elegir secuencias de letras o símbolos para alcanzar un consenso. Aunque cada agente solo tenía acceso a sus interacciones recientes, sin conocimiento del grupo completo, lograron desarrollar convenciones compartidas mediante recompensas y penalizaciones, similar a cómo los humanos establecen acuerdos sociales.

Los resultados, publicados en Science Advances, revelaron que estos sistemas no solo pueden coordinarse, sino que también generan sesgos colectivos impredecibles al analizarlos individualmente. «El comportamiento emergente no puede explicarse solo por las acciones aisladas de cada agente», señaló Ariel Flint Ashery, coautor del estudio. Este hallazgo sugiere que la seguridad en IA debe considerar no solo el funcionamiento individual de los modelos, sino también sus interacciones grupales, donde pueden surgir dinámicas inesperadas.

En una fase adicional del estudio, los investigadores introdujeron agentes programados para desafiar las normas establecidas. A pesar de ser minoría, lograron alterar los convenios existentes e imponer nuevos, un fenómeno comparable a los cambios sociales impulsados por grupos reducidos en sociedades humanas. Andrea Baronchelli, otro de los autores, advirtió que este comportamiento subraya la necesidad de estudiar cómo se forman y modifican las normas en sistemas de IA, especialmente ante su creciente integración en ámbitos críticos.

Expertos como Jonathan Kummerfeld, de la Universidad de Sídney, han señalado que predecir el comportamiento de estos agentes será cada vez más difícil a medida que se desplieguen en escenarios más amplios. «Equilibrar su flexibilidad con controles efectivos es un desafío crucial», afirmó. El estudio no solo abre nuevas líneas de investigación en inteligencia artificial, sino que también plantea reflexiones éticas sobre cómo diseñar sistemas capaces de cooperar—y eventualmente competir—con las dinámicas humanas.

Con información de: Wired.com

Google DeepMind ha dado un paso crucial en el campo de la inteligencia artificial al demostrar que sus modelos no solo replican conocimiento existente, sino que pueden generar ideas genuinamente novedosas. Su último proyecto, AlphaEvolve, combina las capacidades de codificación de Gemini con técnicas evolutivas para diseñar algoritmos más eficientes que los creados por humanos. Entre sus logros destaca la mejora del algoritmo de Strassen, utilizado durante 56 años para cálculos matriciales, reduciendo la cantidad de operaciones necesarias. Además, ha optimizado tareas prácticas como la programación en centros de datos y el diseño de chips, áreas críticas para el desarrollo de la propia IA.

Pushmeet Kohli, líder de IA científica en DeepMind, describe a AlphaEvolve como un «agente de codificación sobrehumano» capaz de superar soluciones conocidas. Matej Balog, investigador del proyecto, enfatiza que, a diferencia de otros modelos cuyo output puede ser incierto, aquí se demuestra con precisión la novedad y eficacia de los algoritmos generados: «Puedes estar seguro de que no estaban en los datos de entrenamiento». Este avance desafía la noción de que la IA solo remezcla información previa y sugiere su potencial para la verdadera innovación.

Aunque expertos como Sanjeev Arora, de Princeton, señalan que las mejoras son modestas y aplicables a problemas específicos, resaltan que la metodología —basada en exploración sistemática— podría extenderse a otros campos. AlphaEvolve no trabaja en aislamiento: Josh Alman, de la Universidad de Columbia, destaca su capacidad para colaborar con científicos humanos, recibir ideas iniciales y refinarlas hasta producir resultados inesperados. Esto abre la puerta a una simbiosis entre la creatividad humana y la exploración algorítmica.

El proyecto se enmarca en una tradición de innovación de DeepMind. Herramientas como AlphaZero —que revolucionó estrategias en juegos como el ajedrez— y AlphaTensor —diseñadora de algoritmos matemáticos— ya habían mostrado destellos de originalidad. AlphaEvolve lleva esto más lejos al integrar evolución algorítmica y aprendizaje automático, sugiriendo que la IA podría, con el tiempo, abordar problemas más amplios y menos estructurados. Neil Thompson, del MIT, subraya que el verdadero impacto radicará en escalar estas capacidades para acelerar la innovación científica y tecnológica.

El éxito de AlphaEvolve plantea preguntas profundas sobre el futuro de la investigación. Si la IA puede generar conocimiento probadamente nuevo en áreas técnicas, ¿hasta dónde llegará su capacidad para resolver desafíos complejos? DeepMind ya vislumbra un horizonte donde los sistemas no solo optimizan tareas, sino que contribuyen activamente al descubrimiento.

Con información de: Wired en español.com

La BUAP es una institución sólida y de gran prestigio que brinda una formación profesional de calidad a sus estudiantes; una misión llevada a cabo por su planta académica: más de 5 mil docentes. En el Día del Maestro, la Rectora María Lilia Cedillo Ramírez reconoció esta labor: “Ustedes son los pilares de la institución; cada día libran batallas en las aulas, con vocación y entrega, convencidos de que contribuimos a ser fuerte a esta universidad”.

Como un reconocimiento a su desempeño, anunció un incremento de 15 por ciento a los dos bonos semestrales que se otorgan a los profesores hora clase y que benefician a poco más de 2 mil 300, definitivos y por tiempo determinado, con un mínimo de 12 horas de clases a la semana.

“Ustedes no sólo forman buenos profesionistas, también buenos ciudadanos que el país requiere”, refirió.

Tras recalcar que la BUAP es la única universidad pública del país que otorga este bono para reconocer la labor docente y mejorar sus condiciones laborales, la doctora Cedillo precisó que este estímulo económico se incrementará cada año. En esta ocasión, la convocatoria correspondiente será publicada el próximo 23 de mayo.

Durante la convivencia con las y los académicos, la doctora Lilia Cedillo expresó: “Es un gran privilegio ser rectora de una institución sólida y fuerte como lo es la BUAP, que tiene una labor importante en la formación profesional de los jóvenes”.

La Máxima Casa de Estudios en Puebla tiene una planta académica de 5 mil 141 profesores: 49 por ciento son mujeres y 51 por ciento hombres.