Noticias

Sistemas de IA, expertos en engañar y manipular a humanos: estudio

Published

2 años ago

14 de mayo de 2024

Editor

Muchos sistemas de inteligencia artificial ya han aprendido a engañar a los humanos, incluso sistemas que han sido entrenados para ser útiles y honestos. En un artículo de revisión publicado en la revista ‘Patterns’ del Departamento de Física del MIT investigadores describen los riesgos del engaño por parte de los sistemas de inteligencia artificial y piden a los gobiernos que desarrollen regulaciones estrictas para abordar este problema lo antes posible.

“Los desarrolladores de IA no tienen una comprensión segura de las causas de comportamientos indeseables de la IA, como el engaño”, reflexiona el primer autor Peter S. Park, becario postdoctoral sobre seguridad existencial de IA en el MIT. “Pero en términos generales, creemos que el engaño de la IA surge porque una estrategia basada en el engaño resultó ser la mejor manera de desempeñarse bien en la tarea de entrenamiento de la IA determinada. El engaño les ayuda a lograr sus objetivos“.

Park y su equipo analizaron la literatura centrándose en las formas en que los sistemas de inteligencia artificial difunden información falsa, a través del engaño aprendido, en el que aprenden sistemáticamente a manipular a otros.

El ejemplo más sorprendente de engaño de IA que los investigadores descubrieron en su análisis fue CICERO de Meta, un sistema de IA diseñado para jugar al juego Diplomacy, que es un juego de conquista mundial que implica la construcción de alianzas. Aunque Meta afirma que entrenó a CICERO para que fuera ” en gran medida honesto y servicial “ y para que “nunca apuñalara intencionalmente por la espalda” a sus aliados humanos mientras jugaba, los datos que la compañía publicó junto con su artículo de Science revelaron que CICERO no jugó limpio.

“Descubrimos que la IA de Meta había aprendido a ser un maestro del engaño“, afirma Park. “Si bien Meta logró entrenar su IA para ganar en el juego de Diplomacia (CICERO se ubicó entre el 10% de los mejores jugadores humanos que habían jugado más de un juego), Meta no logró entrenar su IA para ganar honestamente”.

Con informacion de: ARISTEGUI NOTICIAS

Related Topics:engañar Humanos IA manipular México Puebla Sistemas

Up Next

Prepara Congreso iniciativa para castigar inducción al suicidio mediante plataformas digitales

Don't Miss

Critica Armenta ataques de Lalo Rivera al gobernador durante el debate POblano

Click to comment

Educación

CAETO recibe reconocimiento de la Fiscalía General del estado

Published

18 horas ago

1 de junio de 2026

admin

Noticias

Contender Racing Team y MRS participarán en Campeonato Nacional de Karts en Puebla

Published

4 días ago

29 de mayo de 2026

Fernando Cruz Gónzalez

Será los próximos 29, 30 y 31 de mayo cuando se realice el campeonato nacional de Karts en el Autódromo Miguel E Abed, en Amozoc, Puebla.

Esta competencia será de seis horas en Scusa y Friends Karting donde la resistencia será el reto principal para poder ganar, combinado con la estrategia y el poco tiempo perdido en la zona de pits.

En el campeonato participará el equipo Contender Go- Katrs que realizó una alianza con MRS con la finalidad de impulsar nuevos talentos.

MRS Drivers se posiciona como uno de los equipos más grandes a nivel nacional y estatal, buscando consolidarse, así lo mencionó el fundaror, Luis Arturo Morales.

De un total de 120 pilotos solo 12 fueron seleccionados para esta competencia, debido al alto nivel y la competencia de este semillero.

La preparación para el evento consiste en preparación física y cardiovascular para que los pilotos tengan una condición y puedan aguantar en la pista, mencionaron los fundadores.

El objetivo es destacar ese talento que tienen los muchachos y detornarlo que puede ser muy prometedor y brillante.

Emilio Carrasco, Guillermo Flores, Iker Rocket, Sebastián Colin,piloto de reserva, Santiago Jaralquito, René Carrasco pilotos de este equip, todos ellos guiados por el coach Camilo Mújica.

Noticias

España presentó sus convocados para el Mundial 2026 ¿Quiénes jugarán en Puebla contra Perú?

Published

7 días ago

26 de mayo de 2026

Editor

La Selección de España que dirige Luis de la Fuente presentó su lista de 26 convocados para la Copa del Mundo 2026 en donde resaltan las ausencias de jugadores del Real Madrid.

Los llamados son; Porteros: Unai Simón, David Raya, Joan García; Defensas: Marcos Llorente, Pedro Porro, Pau Cubarsí, Aymerich Laporte, Èric García, Marc Pubill, Marc Cucurella, Alejandro Grimaldo; Mediocampistas: Rodrigo Hernández, Martín Zubimendi, Pedri, Gavi, Fabián Ruiz, Mikel Merino, Álex Baena.

En la línea de ataque aparecen nombres como :Mikel Oyarzábal, Dani Olmo, Borja Iglesias, Ferran Torres, Lamine Yamal, Nico Williams, Víctor Muñoz, Yeremy Pino.

Estos 26 jugadores además de disputar el mundial estarán en Puebla cuando la Furia Roja enfrente a Perú el próximo 8 de junio en el Estadio Cuauhtémoc, duelo que servirá de preparación previo a su debut en la Copa del Mundo.

España quedó ubicada en el Grupo H y debutará el 15 de junio ante Cabo Verde en el Mercedes- Benz de Atlanta, Estados Unidos, mismo escenario donde disputará su segundo encuentro ante Arabia Saudita, el 21 de junio, cerrando su participación de la fase de grupos ante Uruguay el 26 de junio en el Estadio Akron, en Guadalajara.