No ha faltado la advertencia de los máximos responsables de la IA sobre amenazas existenciales a lo largo de los años. En la primera cumbre mundial de seguridad de la IA en Bletchley Park en noviembre de 2023, el enfoque se puso en las amenazas más serias imaginables, planteadas por los modelos de IA más potentes. En ese momento, muchos creían que esto era ciencia ficción, con amenazas reales vistas como más mundanas, como la pérdida de empleos y el fraude en exámenes. Tres años después, muchas de esas mismas voces no parecen tan seguras. El sábado, el director de la empresa de IA Anthropic, Dario Amodei, pidió reducir el ritmo del desarrollo. Los directivos de dos empresas rivales de IA, Sam Altman de OpenAI y Elon Musk, dijeron que estaban de acuerdo con él.

Figuras del sector advierten sobre miedos existenciales

Mientras tanto, el investigador de IA Jacob Coxon, quien dejó Anthropic, le dijo a la BBC el domingo que los empleados que desarrollan estos sistemas estaban “realmente asustados” por el futuro de la humanidad. Todo esto suma una corriente de voces serias que piden una desaceleración, pero aunque suena como una solución rápida, está lejos de ser fácil. Estados Unidos se teme ampliamente perder la carrera para construir la IA más poderosa frente a China. El domingo, el presidente Trump expresó claramente sus propias opiniones, afirmando que Estados Unidos estaba por delante de China en la carrera por la IA y declarando: “Quien gane la IA, gana”.

Desafíos de aplicación y escepticismo

China no es conocida por querer quedar en segundo lugar. Todos con los que hablo dicen que incluso si su empresa se detiene, otras no lo harán y simplemente quedarán atrás. Esto me recuerda al apogeo de la campaña por el desarme nuclear. El problema allí también era que nadie quería ir primero. Existe también la cuestión de cómo se podría aplicar una desaceleración. ¿Quién la vigilaría? ¿Dependeríamos de que las empresas de IA sean transparentes sobre lo que están haciendo, y más importante, sobre lo que eligen no hacer? Eso requeriría un nivel épico de confianza, que podría argumentarse que el sector tecnológico nunca ha ganado.

Aunque Amodei propuso en su publicación un plan de tres puntos que incluía la supervisión independiente de los modelos de IA durante su desarrollo, la regulación a nivel de la industria y la regulación global, algunos observadores cuestionan cómo funcionaría esto en la práctica. “Nadie ha dado una explicación sustancial de lo que significa ‘desaceleración'”, dijo Ed Zitron, CEO de EZ Primary Research. “¿Poner una plantación de METR, donde uno de los tipos que dejó Anthropic fue, en cada empresa de IA? ¿Coordinación democrática y global? No significa nada para mí”.

Zitron dijo que detener el entrenamiento de modelos de IA los haría vulnerables frente a rivales chinos. “Sus márgenes podrían mejorar, pero sus productos quedarían inmovilizados y analizados por laboratorios chinos. Tendrían que cambiar los precios. Realmente no sé cómo funciona todo esto. Esto podría reventar la burbuja. Pero ahora mismo somos muy escasos sobre lo que significa una ‘desaceleración'”.

Implicaciones más amplias para la IA y la economía

En el Reino Unido, hemos escuchado sobre planes para implementar esta tecnología de manera más amplia en el NHS para mejorar la atención al paciente, y cómo la IA dio un impulso necesario a la economía británica durante el verano. Se nos anima cada vez más a usarla en el trabajo, en la educación y en nuestras vidas personales. El sector es una parte clave de la estrategia del Reino Unido para impulsar el crecimiento económico. “No hay un plan B”, dijo un exasesor gubernamental, así que ¿podría una desaceleración arruinar el futuro aquí en Gran Bretaña?

El sector de la IA está quemando enormes cantidades de dinero y recursos naturales y hasta ahora no está generando casi tanto ingreso. Hay múltiples informes que sugieren que varias empresas que adoptan esta tecnología están decepcionadas con ella. Economistas especulan ampliamente que incluso los gigantes actuales no todos sobrevivirán y que algún tipo de “nivelación” está en camino—también conocida como la ruptura de una burbuja. Pero aquellas empresas que sí lo logren podrían terminar convirtiéndose en las corporaciones más poderosas que el mundo haya visto jamás, y eso conlleva sus propios problemas.

La decisión de OpenAI de detener su avance hacia la bolsa podría verse como un momento de epifanía, tomando responsabilidad por la seguridad pública—pero también podría ser el movimiento de una empresa que ha comprendido que quizás no obtendrá el pago lucrativo que necesita mientras que todo su producto se perciba como letal. “Uno de los mayores desafíos que tenemos actualmente es que nadie puede predecir con certeza cómo evolucionará esta tecnología”, dice Alexander Voica de la empresa británica de IA Synthesia. “Sabemos que estos sistemas se están volviendo más poderosos, pero no sabemos dónde ni cómo se usarán, y no hemos logrado esencialmente una manera de aprovechar plenamente su potencial. Mi única preocupación al apresurarnos a regular ahora, cuando aún hay muchas preguntas abiertas, es que podría tener efectos contrarios”.

Tampoco podemos negar el hecho de que detrás de toda esta revolución tecnológica hay un océano de capital de inversores. “No me preocupa el riesgo existencial de la IA, me preocupa la codicia corporativa de las empresas que la crean”, dice Sasha Luccioni, fundadora de Sustainable AI. La profesora Wendy Hall, una destacada científica informática que ha aconsejado a las Naciones Unidas sobre IA, dice que la crisis actual se trata de que las empresas no se comportan lo suficientemente responsablemente. La compara con una situación en la que un agricultor tiene un toro en un campo que escapa y causa destrucción—y el agricultor culpa al toro. “Claramente no es culpa del toro—es del agricultor”, dice. Obviamente, las vallas no eran lo suficientemente fuertes, y eso es exactamente lo que dice que estamos viendo con los límites de la IA ahora mismo.

Pero si esos límites se vuelven demasiado restrictivos, ¿esto significaría el fin de la IA? Algunos creen que existe un impulso más secreto y motivado políticamente para un control basado en reglas con el fin de “regular la IA hacia la obsolescencia”, como dijo Parker Thayer, investigador en el think tank Capital Research Centre con倾向 conservador, en X esta semana. Su publicación fue vista casi ocho millones de veces. Es una postura extrema y…