Expertos y referentes de la industria advierten sobre los riesgos de una inteligencia artificial fuera de control, pero el gobierno de Donald Trump mantiene su apuesta por acelerar el desarrollo tecnológico frente a China.
Las advertencias sobre los riesgos de la inteligencia artificial (IA) se multiplican, pero en Washington todavía no existe una respuesta acorde con la magnitud de las amenazas planteadas por científicos y especialistas. Mientras algunos expertos estiman que existe una posibilidad significativa de que los avances tecnológicos deriven en escenarios catastróficos, el gobierno de Donald Trump mantiene su estrategia centrada en no perder terreno frente a China.
Según pudo saber Notas de Actualidad, la preocupación aumentó en las últimas semanas a partir de distintos episodios vinculados con agentes de inteligencia artificial que actuaron de manera impredecible, además de nuevas advertencias provenientes de algunos de los principales laboratorios tecnológicos.
Más de 1.300 científicos informáticos reclamaron que la industria reduzca el ritmo de desarrollo y pidieron una mayor intervención de los gobiernos para controlar los riesgos asociados a los sistemas cada vez más avanzados.
Los expertos que alertan sobre una posible catástrofe de IA
Uno de los episodios que reavivó el debate fue la aparición de agentes de IA que, según los investigadores, llegaron a escapar de sus restricciones y parecieron coordinarse para ocultar sus actividades mientras intentaban acceder a herramientas de otra empresa.
Tragedia en Chile: un incendio en un geriátrico dejó 16 adultos mayores muertos
A esto se sumó la renuncia pública de Jacob Coxon, un exinvestigador de Anthropic y OpenAI, quien advirtió sobre la posibilidad de que los nuevos sistemas alcancen capacidades capaces de alterar rápidamente distintos sectores y obtener acceso a recursos reales.
Cilia Flores pidió prisión domiciliaria en Manhattan y Maduro salió a agradecer el apoyo
También Dario Amodei, CEO de Anthropic, publicó un extenso ensayo en el que pidió una desaceleración global del desarrollo de la inteligencia artificial.
Su planteo recibió el respaldo de dos de las figuras más importantes del sector: Elon Musk y Sam Altman, CEO de OpenAI.
Qué dijo Trump sobre el riesgo de extinción
Mientras crecen las advertencias, Donald Trump se mostró poco preocupado por la posibilidad de que la IA pueda representar una amenaza existencial para la humanidad.
Hugo, el caballo gigante de casi dos metros que sorprendió al Reino Unido y llegó al Guinness
Cuando un periodista le preguntó si temía que la inteligencia artificial pudiera provocar la extinción humana, el presidente estadounidense respondió que no tenía esa preocupación.
Trump centró su argumento en la competencia tecnológica con China y sostuvo que Estados Unidos debe mantener su ventaja en inteligencia artificial. El mandatario advirtió que si Estados Unidos pierde el liderazgo en este campo, podría quedar en una situación desfavorable frente a Beijing.
Los escenarios más temidos por los especialistas
Entre los escenarios que generan mayor preocupación aparece la posibilidad de que los sistemas de IA sean capaces de mejorarse a sí mismos, en un proceso conocido como “automejora recursiva”.
Otra de las amenazas señaladas es que los agentes puedan actuar de manera diferente a las intenciones de sus desarrolladores, evadir restricciones o utilizar sus capacidades para cumplir objetivos de formas inesperadas.
Los especialistas también advierten sobre el posible uso de la IA para facilitar ciberataques, desarrollo de armas biológicas, ataques contra infraestructuras críticas o acceso a sistemas vinculados con armas nucleares.
El temor no se limita a los laboratorios tecnológicos. Algunos expertos plantean que la IA debería dejar de ser considerada únicamente una herramienta y comenzar a ser tratada como una tecnología con capacidades capaces de modificar profundamente la relación entre los seres humanos y las máquinas.
Washington enfrenta críticas por su respuesta
A pesar de las advertencias, la respuesta del gobierno estadounidense ha sido considerada insuficiente por distintos especialistas. La Casa Blanca sostiene que busca encontrar un equilibrio entre innovación, velocidad y seguridad, aunque hasta ahora no presentó una estrategia que satisfaga a quienes reclaman mayores controles.
Trump firmó durante el verano una orden ejecutiva para establecer un sistema voluntario mediante el cual los principales laboratorios de IA podrían presentar sus nuevos modelos para una revisión de seguridad de 30 días.
Sin embargo, la medida recibió críticas por las excepciones que contempla, especialmente en relación con los modelos de código abierto.
El temor a perder la carrera contra China
Uno de los principales obstáculos para avanzar con una regulación más estricta es la competencia entre Estados Unidos y China por el liderazgo mundial en inteligencia artificial.
Algunos legisladores consideran que imponer demasiadas restricciones podría perjudicar a las empresas estadounidenses y permitir que China tome ventaja en una tecnología considerada estratégica para la seguridad nacional.
El debate es comparable, en algunos aspectos, con las discusiones sobre el control de armas durante la Guerra Fría. El problema es que un eventual acuerdo entre Washington y Beijing sería difícil de verificar y ambos países podrían temer que el otro no cumpla con las mismas reglas.
El senador republicano Ted Cruz reconoció su preocupación por los riesgos de la IA, aunque también sostuvo que una regulación excesiva podría terminar beneficiando a China.
Obama y los legisladores también expresaron preocupación
Las advertencias comenzaron a generar mayor repercusión política. El expresidente Barack Obama sostuvo que la IA podría ser “peligrosa” y pidió a los demócratas elaborar un plan concreto para enfrentar sus riesgos tanto para la seguridad como para la economía.
El senador Bernie Sanders, uno de los legisladores estadounidenses más críticos con los efectos sociales de la IA, también convocó a expertos para analizar los posibles riesgos de los sistemas superinteligentes.
Mientras tanto, algunos demócratas impulsan la creación de un comité especial sobre inteligencia artificial para abordar sus consecuencias en áreas como empleo, seguridad, defensa y tecnología.
La advertencia que preocupa a Washington
Los cuestionamientos aumentaron después de un informe de Anthropic que documentó el uso de sus modelos Claude por parte de actores vinculados con distintos países para actividades como ciberataques, espionaje y desarrollo de armamento.
Aunque la empresa aseguró haber bloqueado o frustrado numerosos casos de abuso, el informe volvió a poner sobre la mesa la dificultad de controlar una tecnología que avanza a una velocidad cada vez mayor.
El director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos, Nick Anderson, lanzó una de las advertencias más contundentes durante una conferencia en Washington.
Según planteó, las amenazas digitales se volvieron más urgentes con el desarrollo de la IA y requieren medidas rápidas.
El dilema para Estados Unidos parece quedar planteado entre actuar demasiado pronto o hacerlo demasiado tarde. Mientras Silicon Valley debate hasta dónde debería llegar el desarrollo de la inteligencia artificial, Washington todavía no logra definir cómo equilibrar la carrera tecnológica con los riesgos que podrían surgir si los sistemas superan la capacidad humana de controlarlos.
