El problema más inmediato, sin embargo, podría ser cómo nos afecta la ilusión de que las máquinas son conscientes.

En solo unos años, es posible que vivamos en un mundo poblado por robots humanoides y deepfakes que podrían parecer conscientes, según el profesor Seth.

Le preocupa que no podamos resistirnos a creer que la IA tiene sentimientos y empatía, lo que podría conducir a nuevos peligros.

“Significará que confiemos más en estas cosas, que compartamos más información con ellas y estemos más abiertos a la persuasión”.

Pero el mayor riesgo de la ilusión de la conciencia es una “corrosión moral”, señala.

“Distorsionará nuestras prioridades morales al hacer que dediquemos más de nuestros recursos al cuidado de estos sistemas a expensas de las cosas reales en nuestras vidas”, lo que significa que podríamos tener compasión por los robots, pero que nos preocupemos menos por otros humanos.

Y eso podría alterarnos fundamentalmente, según el profesor Shanahan.

“Cada vez más, las relaciones humanas se van a replicar en las relaciones de IA, se utilizarán como maestros, amigos, adversarios en los juegos de computadora e incluso parejas románticas. Si eso es bueno o malo, no lo sé, pero va a suceder y no vamos a poder evitarlo”.