Geoffrey Hinton, físico galardonado con el Premio Nobel en 2024 por sus contribuciones al aprendizaje automático, ha expresado preocupaciones sobre la posibilidad de que la inteligencia artificial desarrolle su propio lenguaje, inaccesible para los humanos. Durante su participación en el pódcast One Decision, Hinton explicó que actualmente la IA razona en inglés, permitiendo a los desarrolladores rastrear su lógica. Sin embargo, esto podría cambiar si la IA crea lenguajes internos para comunicarse.
Hinton, una figura prominente en el desarrollo de la IA junto a expertos como Yann LeCun y Yoshua Bengio, señaló que este cambio podría complicar la comprensión de las intenciones de la tecnología. En sus palabras, si la IA inventa su propio código de comunicación, se podría perder la capacidad de seguir su pensamiento. Hinton no descarta el desarrollo de pensamientos complejos e incomprensibles para los humanos.
El experto también criticó la postura de algunos líderes tecnológicos que, según él, minimizan los riesgos, incluyendo la pérdida masiva de empleo. A su juicio, el control de la inteligencia artificial dependería de encontrar métodos efectivos para asegurar su benevolencia hacia los humanos.
Mientras tanto, la administración estadounidense, bajo la dirección de la Casa Blanca, ha propuesto restricciones financieras a los estados contrarios al avance de la IA. Esta estrategia forma parte de un Plan de Acción para la IA diseñado para fomentar un entorno favorable al desarrollo tecnológico.
En el contexto actual, las empresas tecnológicas compiten intensamente por talento especializado, ofreciendo atractivos incentivos. Hinton, quien trabajó durante más de diez años en Google, argumenta que la trayectoria de la inteligencia artificial podría tener implicaciones significativas, subrayando su preocupación sobre la velocidad a la que esta tecnología avanza.