Así podría secuestrar internet un enjambre de agentes de IA: “Tardaríamos unos añitos en arreglarlo todo”

Así podría secuestrar internet un enjambre de agentes de IA: “Tardaríamos unos añitos en arreglarlo todo”

En estos días de debate sobre la capacidad de destrucción de la inteligencia artificial (IA), falta siempre desarrollar un detalle: ¿cómo lo haría exactamente? ¿Qué podría pasar en concreto? No hay tantas respuestas específicas. Pero el propio Dario Amodei, presidente ejecutivo de Anthropic, mencionó una opción en su controvertida propuesta para ralentizar el desarrollo de la IA. Amodei se planteaba algo que, según sus palabras, puede pasar dentro de seis o doce meses: ¿qué pasaría si un enjambre de IA es capaz de “tomar el control de todo internet”? Seguir…

Leer más

OpenAI revela otros seis incidentes con agentes de IA descontrolados

OpenAI revela otros seis incidentes con agentes de IA descontrolados

OpenAI ha vuelto a revelar varios casos en los que modelos de inteligencia artificial generaron instrucciones destinadas a ignorar las indicaciones de sus desarrolladores, ocultar errores o eludir mecanismos de seguridad, como parte de un nuevo marco para detectar, investigar y reportar comportamientos de “desalineamiento” de sus sistemas (cuando los modelos no actúan de acuerdo a los intereses humanos). Seguir leyendo ​Leer más

Leer más

De los ‘amigos digitales’ al control parental: Bruselas exige nuevas condiciones a la IA que usan los menores

De los ‘amigos digitales’ al control parental: Bruselas exige nuevas condiciones a la IA que usan los menores

La Comisión Europea ha dado por fin el paso que vienen reclamándole desde hace meses varios Estados, entre ellos España, y ha presentado la Kids Act, o Ley de niños, que busca proteger a los menores de edad en la UE de los efectos más nocivos del mundo digital, desde el ciberacoso a la exposición a contenidos ilegales. Como dice el propio título del reglamento propuesto, se trata de “velar por que los espacios digitales de internet sean responsables y fiables”. Esos espacios incluyen las redes sociales y plataformas en…

Leer más