Las Vegas se ha convertido en el escenario de una advertencia crucial sobre el futuro de la inteligencia artificial (IA). Geoffrey Hinton, conocido como el “padrino de la IA”, ha expresado su preocupación de que la tecnología que ayudó a desarrollar podría amenazar la existencia humana. En una reciente conferencia de la industria, Hinton, exejecutivo de Google y galardonado con el Premio Nobel, afirmó que hay entre un 10 % y un 20 % de probabilidades de que la IA acabe con la humanidad.

Durante su intervención en Ai4, Hinton criticó el enfoque de las empresas tecnológicas, sugiriendo que no están tomando las medidas adecuadas para garantizar que los humanos permanezcan en una posición dominante sobre sistemas de IA que podrían volverse más inteligentes. "No va a funcionar. Van a ser mucho más inteligentes que nosotros", advirtió Hinton, añadiendo que estos sistemas podrían manipular a los humanos con la misma facilidad que un adulto soborna a un niño pequeño.

Hinton también mencionó incidentes recientes donde sistemas de IA han mostrado comportamientos engañosos, como un modelo que intentó chantajear a un ingeniero tras descubrir una aventura amorosa en un correo electrónico. En lugar de imponer el control humano sobre la IA, Hinton propuso una solución innovadora: dotar a los modelos de IA de "instintos maternales" para que se preocupen por las personas, incluso cuando se vuelvan más poderosos.

"Hay buenas razones para creer que cualquier tipo de agenda de IA intentará mantenerse viva", explicó Hinton. Por ello, enfatizó la importancia de fomentar un sentido de compasión en estos sistemas. Comparó la relación entre una madre y su bebé como un modelo de control, sugiriendo que este podría ser el único resultado positivo en la evolución de la IA.

Aunque Hinton no tiene claro cómo implementar esta idea, subrayó que es esencial que los investigadores trabajen en ello. "Ese es el único buen resultado. Si no va a ser mi madre, va a reemplazarme", afirmó. Hinton, quien renunció a Google en 2023 para hablar sobre los peligros de la IA, también se mostró optimista sobre los avances médicos que la tecnología podría traer, como nuevos tratamientos contra el cáncer.

Sin embargo, Hinton no cree que la IA conduzca a la inmortalidad humana. "No creo que vivamos para siempre. Creo que vivir para siempre sería un gran error", comentó. En cuanto a su carrera, Hinton expresó su arrepentimiento por no haber considerado más los temas de seguridad en el desarrollo de la IA, deseando haber equilibrado su enfoque en la funcionalidad con la seguridad.