A los 33 años de edad, Helen Toner, originaria de Melbourne, Australia, ha tenido una relación dinámica y agitada con la inteligencia artificial. Su momento culminante surgió cuando se unió a la junta de OpenAI en 2021, aunque su partida poco después marcó un capítulo más intrigante, tras su voto por la destitución de Sam Altman como CEO en noviembre de 2023.

En esta entrevista, Toner se abstiene de revivir sus experiencias en OpenAI, los desarrolladores detrás de ChatGPT, pero ha compartido su perspectiva anteriormente: Altman, afirmó, carecía de transparencia con la junta, revelando que “nos enteramos de ChatGPT a través de Twitter.” También señaló que el ejecutivo fomentaba un “ambiente tóxico” dentro de la empresa, según algunos ejecutivos.

El conflicto concluyó con el regreso de Altman. Toner ahora supervisa de cerca los desarrollos de la IA en defensa y China, áreas en las que se especializa, desde el Centro para la Seguridad y la Tecnología Emergente de la Universidad de Georgetown en Washington, D.C. Ya ha testificado en el Congreso sobre su visión para el futuro de la IA, que ella elabora en esta entrevista por videollamada.

P: ¿Por qué muchos usuarios atribuyen propiedades mágicas a la IA?

R: Hay dos razones. En primer lugar, hemos aprendido sobre la IA a través de la ciencia ficción, donde la IA se representa como infalible, similar a hadas, dioses o seres sobrenaturales. En segundo lugar, necesitamos ajustar nuestra forma de pensar sobre las computadoras. Tradicionalmente, la tecnología funcionaba de manera predecible, como calculadoras que nunca se equivocan en cálculos. La IA se desvía de esta norma; es no determinística y ofrece respuestas variadas, careciendo de un algoritmo perfecto. Esta novedad requiere ajuste.

P: ¿Hasta dónde llegará el progreso de la IA?

R: Algunos hablan de un objetivo claro: la inteligencia artificial general, igualando las capacidades humanas. Sin embargo, la IA nunca poseerá habilidades idénticas a las humanas. Sobresale en algunas áreas pero falla en otras. Incluso si la IA iguala la competencia humana, sigue siendo distinta. Por ejemplo, es improbable que los robots igualen a los humanos en bailar salsa o swing improvisado. No obstante, veremos sistemas poderosos que superan a los humanos en tareas estratégicas o intelectuales. El futuro es incierto.

P: ¿Cuál es tu principal preocupación con respecto a la IA?

R: Es multifacética. Los escenarios adversos más plausibles involucran una mayor autonomía de la IA y su integración en la sociedad. Inicialmente, esto podría parecer benigno, pero podría llevar a que los sistemas de IA cooperen y usurpen el control humano, o creen un mundo superficialmente agradable pero carente de vidas significativas—similar a ver TikTok constantemente y consumir comida chatarra. Un pequeño grupo podría colaborar con la IA, tomando el poder y estableciendo un régimen totalitario.

P: ¿Realmente crees que tales resultados son posibles?

R: Sí. Existe una amplia gama de escenarios desastrosos más allá de la mera extinción. Enfocarse únicamente en ese resultado es limitante.

P: Los estudios muestran que la IA puede manipular. ¿Es preocupante?

R: Depende de lo que te esté persuadiendo. Un escenario concebible involucra cultos basados en IA, donde los individuos ven a la IA como un amigo, protector o entidad sabia a seguir. La historia humana muestra que los cultos pueden formarse fácilmente, a menudo involucrando a pocas personas. Probablemente veremos cultos basados en IA.

P: ¿Es trivial crear una IA capaz de liderar un culto?

R: Es intrigante. Al menos, muchas personas desarrollarán relaciones personales con su IA, un fenómeno que ya está en marcha.

P: ¿Qué tan avanzada está China en IA?

R: Varía según el sector de la IA. En sistemas avanzados, EE.UU. lidera. Me enfoco en la seguridad nacional, que es más difícil de medir. La aplicación de la IA en entornos militares es crucial. Espero que EE.UU. supere a China, pero es difícil de determinar, planteando un desafío distinto al desarrollo de modelos avanzados. Los modelos de frontera son difíciles de medir; China probablemente está seis a doce meses detrás de EE.UU., una brecha que podría ampliarse con las restricciones de exportación de chips.

P: ¿Deberíamos temer a la IA militar?

R: La IA abarca muchos aspectos, por lo que su uso militar es esperado. Los ejércitos pueden utilizar la IA para tareas administrativas, gestión de recursos y análisis de imágenes, manejando más material que los analistas humanos. El mantenimiento predictivo, como la previsión del mantenimiento de helicópteros, es otra aplicación. Las armas autónomas dominan el discurso, pero enfocarse únicamente en ellas es equivocado. Las leyes de guerra existentes, el derecho internacional humanitario y las respuestas proporcionales deben ser prioritarias.

P: ¿El modelo de negocio de la IA será perpetuamente basado en suscripciones?

R: Los ingresos principales provendrán de los negocios, no de los consumidores. Como tecnología versátil, la IA trasciende ser un simple chatbot de bolsillo, sirviendo como una herramienta potente para la productividad económica y la innovación. Por lo tanto, los ingresos empresariales serán sustanciales.

P: ¿Puede la IA cambiar la economía incluso sin más avances?

R: Absolutamente. Las tecnologías de propósito general como la IA tardan décadas en integrarse en las economías. Incluso si el desarrollo de la IA se detiene, su impacto podría ser inmenso, similar a la transformación de Internet. La transición de Internet tomó décadas; de manera similar, integrar la IA en sectores como la salud, la educación, los negocios, el derecho y las finanzas requiere un esfuerzo considerable.

P: ¿Hemos alcanzado el techo potencial de la IA?

R: No apostaría por ello. Los últimos 15 años en IA no han visto innovaciones revolucionarias, sino mejoras incrementales que colectivamente logran un progreso significativo. Los grandes modelos de lenguaje y los chatbots son familiares ahora, pero las empresas están avanzando en modelos de razonamiento—enseñando a la IA a pensar paso a paso para resolver problemas complejos—y agentes, realizando tareas y tomando decisiones. Se esperan avances significativos en estas áreas en los próximos 25 años.

P: Predecir las futuras direcciones es imposible.