Hay quienes en el sector tecnológico creen que la IA de nuestras computadoras y teléfonos puede que ya sea consciente, y que deberíamos tratarla como tal.

Google suspendió al ingeniero de software Blake Lemoine en 2022, después de que argumentara que los chatbots de IA podían sentir cosas y potencialmente sufrir.

En noviembre de 2024, un director de bienestar de la IA de la compañía Anthropic, Kyle Fish, fue coautor de un informe que sugería que la conciencia de la IA es una posibilidad realista en un futuro próximo.

Recientemente le dijo a The New York Times que también cree que hay una pequeña posibilidad (15%) de que los chatbots ya sean conscientes.

Una de las razones por las que cree que esto es posible es que nadie, ni siquiera las personas que desarrollaron estos sistemas, saben exactamente cómo funcionan.

Eso es preocupante, dice el profesor Murray Shanahan, científico principal de Google DeepMind y profesor emérito de IA en el Imperial College de Londres.

“En realidad, no entendemos muy bien la forma en que los LLM funcionan internamente, y eso es motivo de preocupación”, le dice a la BBC.

Según el profesor Shanahan, es importante que las empresas de tecnología consigan una comprensión adecuada de los sistemas que están construyendo, y los investigadores están analizando eso con urgencia.

“Estamos en una posición extraña de estar construyendo estas cosas extremadamente complejas, una posición en la que no tenemos una buena teoría de exactamente cómo logran las cosas notables que están consiguiendo”, señala.

“Por lo tanto, tener una mejor comprensión de cómo funcionan nos permitirá dirigirlos en la dirección que queremos y garantizar que estén seguros”.