CUMNOCK, Escocia, 17 de septiembre (Reuters) – El rey Carlos advirtió el jueves a los líderes del sector de la inteligencia artificial sobre los “peligros existenciales” que supone que esta tecnología caiga en manos equivocadas, con consecuencias potencialmente catastróficas, y afirmó que es necesario establecer medidas de seguridad antes de que sea “demasiado tarde”.
Por Gerhard Mey
En las últimas semanas, el debate se ha centrado en si el sector puede y debe autorregularse, lo que ha suscitado intervenciones de figuras mundiales como el papa León XIV, el rey Carlos y el presidente de EE.UU., Donald Trump.
El monarca británico recibió en Escocia a los cofundadores de Nvidia y Google DeepMind, junto con líderes de OpenAI y Anthropic, en un momento en que crece la preocupación por que los esfuerzos en materia de seguridad de la IA vayan a la zaga del desarrollo de sistemas cada vez más potentes.
“Parece urgente considerar de forma adecuada los peligros existenciales de que estas tecnologías caigan en manos equivocadas y se usen de formas potencialmente catastróficas”, declaró a los líderes reunidos en su finca de Dumfries House. “Sin duda, necesitamos medios de control suficientes antes de que sea demasiado tarde, ¿no?”.
Carlos afirmó que la IA tiene el potencial de mejorar y salvar vidas, sobre todo en las ciencias de la vida y la medicina. Sin embargo, sus creadores advierten cada vez más de que podría desarrollar capacidades más oscuras, “quizá incluso para quitar la vida”, añadió.
También se esperaba la presencia de Paolo Benanti, asesor del papa que ha instado a los gobiernos a frenar el desarrollo de la IA.
Entre los asistentes se encontraban el fundador y presidente ejecutivo de Nvidia, Jensen Huang; el fundador y presidente de Google DeepMind, Demis Hassabis; la presidenta financiera de OpenAI, Sarah Friar, y el ministro británico de Inteligencia Artificial, Kanishka Narayan.
(Reporte adicional de William James, en Londres; escrito por Kate Holton y Paul Sandle, en Londres; editado en español por Carlos Serrano)
El Palacio de Buckingham dijo que en los debates se analizará si un conjunto de principios compartidos podría orientar la futura aplicación de la IA, “no solo como motor de capacidad y eficiencia, sino como herramienta que defienda la dignidad humana y contribuya al florecimiento tanto de las personas como del planeta”.
