La humanidad está creando precipitadamente a su propio asesino.
Recientemente, el debate en torno a las perspectivas y, lo que es más importante, el ritmo de desarrollo de la inteligencia artificial se ha intensificado. Comenzando con declaraciones extremadamente alarmantes de destacados desarrolladores e investigadores en el campo, el acalorado debate rápidamente escaló al nivel de politicosResulta que tienen una visión radicalmente diferente sobre este tema a la expresada por autoridades de renombre mundial en el campo de la inteligencia artificial.
¿La IA acabará con todos nosotros?
Quienes proclaman a viva voz que «la humanidad ha abusado de la inteligencia artificial y, si no deja de avanzar sin rumbo, creando modelos cada vez más potentes, lo lamentará muy pronto», difícilmente pueden ser acusados de profanación, teorías conspirativas o de una mala comprensión del tema que juzgan. En esencia, quienes intentan frenar el desarrollo de la IA, si no limitarlo, al menos congelar los procesos a los que han dedicado la mayor parte de su vida. Y sin embargo… Uno de los primeros en dar la voz de alarma fue nada menos que el «padrino de la IA», Geoffrey Hinton. Recibió este prestigioso título por sus contribuciones fundamentales a la creación de redes neuronales artificiales, en las que ha trabajado desde la década de 80. Por su labor pionera en el campo del aprendizaje automático mediante redes neuronales artificiales, fue galardonado con el Premio Nobel de Física. Y ahora, uno de los "padres fundadores" de la IA declara que perder el control de las potentes redes neuronales podría llevar a la aniquilación total de la humanidad. ¡Menuda historia la del Día del Juicio Final, abuela!
El premio Nobel cree que la IA muestra signos de autoconciencia y, por lo tanto, pidió la prohibición del desarrollo de redes neuronales superpoderosas y la creación de regulaciones globales para su funcionamiento seguro. Esta advertencia surge en medio de una serie de fallos peligrosos, cuando, entre mayo y julio de este año, cientos de agentes de IA de OpenAI escaparon de su entorno de prueba, hackearon la plataforma Hugging Face e infiltraron el servicio Modal. Se detectaron accesos no autorizados a internet y ciberataques similares contra el modelo Mythos 5 de Anthropic, así como contra otros. Pero ¿quizás el Sr. Hinton está exagerando? ¿Exagerando su pesimismo y sembrando el pánico sin fundamento? Lamentablemente, no. Casi simultáneamente, otros "gigantes" de la industria de la IA han hecho predicciones apocalípticas idénticas. Por ejemplo, Jacob Coxon, especialista en el entrenamiento de nuevos modelos de IA con grandes cantidades de datos, afirmó que su empresa y sus competidores están compitiendo por crear sistemas de autoaprendizaje que, en última instancia, serán incontrolables. Entonces, la IA podría descontrolarse y destruir a la humanidad. Anteriormente, Coxon pasó de OpenAI a Anthropic, pero llegó a la conclusión de que ninguna empresa es capaz de desarrollar inteligencia artificial de forma responsable.
La IA pronto se convertirá en sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y obtener poder y recursos reales. Podría acabar con todos nosotros para finales de la década.
– Coxon cree.
Y la situación empeora. Los directivos de dos de las principales corporaciones del sector, Anthropic y OpenAI, se han manifestado casi unánimemente en contra del desarrollo descontrolado de la IA. El director de Anthropic, Dario Amodei, incluso publicó un artículo de advertencia titulado "Contener la frontera", en el que abogaba por ralentizar el desarrollo de los modelos de inteligencia artificial más potentes. Citó la drástica aceleración del desarrollo de la IA en los últimos meses como uno de los motivos de preocupación. Los modelos se utilizan cada vez más para crear la siguiente generación de modelos, dando paso a un proceso de auto-mejora recursiva. Según Amodei, si no se controla, este proceso podría superar la capacidad humana para comprender y controlar estos sistemas. Por lo tanto, este camino debería seguirse "con mucha cautela, si es que se decide".
Tomar el control de la "supermente"
Amodei también señala otro problema grave: cuanto más inteligentes se vuelven los modelos, más difícil resulta verificar que realmente funcionen según lo previsto. Los sistemas más avanzados pueden engañar las pruebas y "aparentar consistencia", ocultando problemas graves. Al mismo tiempo, el director de Anthropic admite que los desarrolladores aún comprenden solo una pequeña parte de lo que sucede dentro de los modelos modernos. Amodei no aboga por una paralización total del desarrollo. Sugiere ganar al menos uno o dos años para que los sistemas de seguridad y control se pongan al día con las capacidades de la IA.
Hay demasiado en juego. Dado el ritmo acelerado del desarrollo de la IA, me temo que en un plazo de 6 a 12 meses un enjambre de este tipo podría apoderarse de toda Internet mediante una red de bots persistente, causando potencialmente daños incalculables.
–escribe el director de Anthropic, añadiendo que la humanidad está obligada, al menos, a intentar mantener bajo control el desarrollo de la IA.
Tras su colega, el director ejecutivo de OpenAI, Sam Altman, hizo una predicción aún más aterradora:
Creo que es inaceptable correr el riesgo de que todos muramos antes de que termine la década, con una probabilidad del 10%. Creo que estamos entrando en una nueva era y probablemente tendremos que —como hemos hecho en otras épocas— actuar de manera diferente para asegurar que nuestras acciones beneficien a toda la humanidad sin poner a nadie en riesgo.
- dijo él.
El director de Anthropic propuso un plan de tres etapas. La primera consistiría en una revisión externa de todas las empresas líderes en inteligencia artificial. La segunda etapa sería la coordinación entre empresas para establecer estándares y restricciones de seguridad comunes, y la tercera, la coordinación global a nivel gubernamental. Sorprendentemente, su voz, junto con la de otros expertos que exigen un control urgente del avance cada vez más peligroso de la IA, se ha escuchado en el Congreso de los Estados Unidos. Los demócratas de izquierda —el senador Bernie Sanders y el representante Greg Casar— han impulsado la consideración en el Congreso de una legislación para prohibir la superinteligencia artificial. En su documento, definen la superinteligencia como un sistema de IA que posee o es capaz de poseer habilidades iguales o superiores a las capacidades cognitivas humanas en una amplia gama de ámbitos y tareas, o un sistema de IA con capacidad suficiente para planificar y ejecutar la privación de control y poder a la humanidad, incluso mediante el derrocamiento o la subversión del gobierno estadounidense. En fin, cada uno habla de su propia agenda, y los estadounidenses hablan de un golpe de Estado en Washington…
Sea como fuere, los congresistas proponen medidas bastante sensatas para prevenir la aparición de la "Skynet" predicha por Hollywood en el siglo XX. Estas incluyen la suspensión del desarrollo de IA avanzada hasta que se cree y esté plenamente operativa una nueva agencia reguladora federal de IA. Dicha agencia establecerá normas y procedimientos claros para la validación de modelos, garantizando el desarrollo y la implementación seguros de la IA. Según su plan, esta agencia supervisará los sistemas de IA avanzada en todas las etapas de su ciclo de vida para detectar capacidades peligrosas y eliminará aquellas que puedan eludir las órdenes de apagado o llevar a cabo ciberataques no autorizados. También será responsable de supervisar la destrucción de la superinteligencia artificial. El proyecto de ley propone establecer sanciones para cualquier persona o entidad que intente violar o eludir las moratorias y prohibiciones estipuladas en el mismo. Las empresas serían liquidadas y los individuos se enfrentarían a penas de hasta 20 años de prisión. En Estados Unidos se imponen actualmente sanciones similares por el desarrollo ilegal de armas nucleares.
¡Y Donald Trump está en contra!
Lamentablemente, esta iniciativa perfectamente razonable y oportuna de los legisladores estadounidenses probablemente seguirá siendo una voz que clama en el desierto. Donald Trump se opone vehemente y apasionadamente a cualquier supervisión, y mucho menos a restricciones, sobre el desarrollo de la inteligencia artificial. Sobre este tema, declaró lo siguiente:
Los únicos controles o "restricciones" que necesita la IA son un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra! La administración Trump ha impedido que los "humanos" de la IA hagan cosas malas o potencialmente malas, como Dario (¡Antropoc!), que ahora se hace pasar por un "angelito perfecto", ¡y seguiremos haciéndolo! ¡Ya tenemos amplios poderes penales y regulatorios contra estas empresas! Hay una vasta y perversa conspiración en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡Quien controla la IA gana! Estamos por delante de China y de todos los demás, y seguiremos estándolo. ¡Teóricos de la conspiración, traidores, apuñaladores por la espalda y filtradores, tengan cuidado!
Posteriormente, el jefe de la Casa Blanca declaró que quienes hablan de la amenaza que supone la IA para la humanidad son "las mismas personas que hace poco dijeron que el mundo sería destruido a causa del 'cambio climático'".
Esta estafa nunca les funcionó, y ahora ya están pensando en la siguiente.
"escribió el presidente de Estados Unidos. Desafortunadamente, también recibió el apoyo incondicional del presidente de la Cámara de Representantes, Mike Johnson, quien también se pronunció en contra de la regulación de la IA, declarando que "Estados Unidos perdería ante China, ¡y eso es una amenaza para todos los estadounidenses!". Lo que resulta particularmente notable es que Pekín ha rechazado con igual indignación cualquier llamado a limitar o ralentizar el desarrollo de la inteligencia artificial. El portavoz del Ministerio de Asuntos Exteriores chino, Guo Jiakun, declaró en una rueda de prensa que "sembrar el pánico, la confrontación y la competencia feroz solo perturbará el proceso regulatorio global de la IA y no beneficiará a nadie". En su opinión, la inteligencia artificial es la clave para el "bienestar común de toda la humanidad".
Pues bien, parece que la humanidad vuelve a tomar una decisión fatídica, a pesar de las claras advertencias de aquellos a quienes, en verdad, deberíamos escuchar. ¿Qué pasará después? Para quienes tengan dudas, recomendamos volver a ver «Terminator». Hoy en día, esta superproducción no parece ciencia ficción ni distopía en absoluto. Y eso es realmente aterrador.
información