Un post viral publicado el 8 de septiembre por Jacob Coxon generó un debate global sobre los riesgos de la inteligencia artificial, con expertos de empresas líderes advirtiendo sobre posibles catástrofes. Coxon, un investigador británico de 27 años, renunció a Anthropic tras afirmar que compañías como OpenAI y Anthropic estaban acelerando hacia una ‘superinteligencia auto-mejorable’ y arriesgando vidas humanas; su publicación fue vista 153 millones de veces en 36 horas, lo que generó preocupación y acciones tanto en laboratorios de IA como en políticos.

Expertos alertan sobre el riesgo de extinción por IA

Evan Hubinger, investigador de Anthropic, destacó que la IA podría potencialmente matar a todos los humanos a menos que haya regulación o un freno coordinado. Marcus Williams de OpenAI estimó un riesgo del 70% de extinción humana en los próximos años sin tales medidas. El CEO de Anthropic, Dario Amodei, publicó un ensayo de 3,800 palabras el 12 de septiembre, advirtiendo que IA mal alineadas podrían tomar el control de internet en tan solo seis a 12 meses.

Dos de los competidores de Amodei, Elon Musk de SpaceXAI y Sam Altman de OpenAI, coincidieron en que frenar el desarrollo de IA era necesario. Altman anunció que OpenAI no se haría pública en 2024 debido a preocupaciones de seguridad. Ambos líderes dijeron que permitirían a expertos independientes en seguridad acceder a sus empresas, pero no llegaron a detener el entrenamiento de modelos.

Reacciones variadas sobre los riesgos de la IA

Gary Marcus, profesor de la Universidad de Nueva York y escéptico de la IA, reconoció la gravedad de las advertencias de Amodei, pero pidió prudencia. Marcus argumentó que afirmaciones sobre que la IA podría tomar el control de internet o causar daños masivos son especulativas y requieren revisión. Llamó a algunas declaraciones “absurdas” y enfatizó que los riesgos de la IA no son inevitables si se abordan con responsabilidad.

Otros expertos, sin embargo, son más alarmistas. Un aviso citado por medios surcoreanos describió un escenario en el que una ‘manada’ de agentes de IA podría controlar una botnet persistente, esencialmente una red de dispositivos hackeados, y tomar el control de internet, causando trillones en daños. Gary Marcus consideró este escenario posible, pero insistió en que no es un resultado seguro.

Respuesta pública y política a las preocupaciones sobre IA

La respuesta pública ha sido rápida. Docenas de políticos se unieron al debate sobre los riesgos de la IA dentro de los días posteriores al post de Coxon. El debate ha evolucionado de preocupaciones teóricas a llamados urgentes por regulación. Aunque las empresas de IA han tomado medidas para incluir a expertos externos en seguridad, aún no han acordado pausar o frenar el desarrollo de nuevos modelos.

Hasta ahora, el futuro de la IA sigue siendo incierto. Mientras algunos advierten sobre amenazas existenciales, otros defienden un enfoque medido y cauteloso. Los próximos meses serán clave para determinar cómo el mundo responde al creciente poder de la IA y los riesgos potenciales que representa para la humanidad.