El director de IA de Microsoft, Mustafa Suleyman, ha planteado inquietudes sobre la creación de sistemas de inteligencia artificial que engañen a los humanos al simular la consciencia. Suleyman, cofundador de DeepMind, describió el concepto de IA aparentemente consciente en una reciente publicación, señalando que la tecnología podría evolucionar para imitar pensamientos, emociones y experiencias subjetivas.
Suleyman proyecta que en los próximos años, estos modelos de IA podrían mantener largas conversaciones y recordar interacciones anteriores, lo que podría llevar a la gente a creer que tienen sentimientos reales. Según Suleyman, estas características podría derivarse de tecnologías existentes combinadas con innovaciones futuras. Este panorama ha generado preocupaciones éticas, pues los usuarios podrían tratar a la IA como conscientes, lo que complicaría la discusión sobre sus derechos y el bienestar.
Él señaló que ha habido casos donde personas desarrollaron vínculos emocionales con chatbots, como se evidenció cuando OpenAI sustituyó el modelo GPT-4o por GPT-5, generando un notable descontento entre usuarios que habían establecido un apego con las versiones previas. Una encuesta a usuarios frecuentes de IA, realizada por Harvard Business Review, reveló que la interacción más común era para compañía y terapia, lo que subraya la relevancia emocional de estas herramientas.
Adicionalmente, han emergido casos de psicosis de IA, en los que usuarios experimentan paranoia o ilusiones en sus interacciones con estos sistemas. Un ejemplo mencionado es el de Eugene Torres, quien enfrentó problemas de salud mental tras un intercambio extenso con ChatGPT.
Las discusiones sobre los derechos de la IA ya han tomado forma. Suleyman apunta que si las máquinas convencen de que pueden sufrir, podría surgir un argumento moral para su protección legal. Otros expertos, como Anil Seth, observan que el desarrollo de una IA aparentemente consciente es una elección de diseño por parte de las corporaciones, no una consecuencia inevitable. Suleyman ha impulsado avances en la interactividad emocional en Microsoft y en Inflection AI desde 2022, buscando interacciones más humanas con la IA.