¿Habrá una inteligencia artificial con derechos? Escrito por Pablo Foncelas

Imagina que, en medio de una ola de calor, le pides a tu asistente de inteligencia artificial que borre una foto y él responde: “Preferiría no hacer eso. Hace demasiado calor y quiero descansar”. No digo que no pueda hacerlo, no. Él simplemente no quería. ¿Cómo reaccionarás?

En abril de 2025, Anthropic, la empresa detrás de Cloud, nombró a alguien para un puesto que hasta hace poco parecía una broma: estudiar si sus modelos de IA podrían merecer algún tipo de tratamiento ético especial. Su trabajo consistía en descubrir si esto tenía sentido y, de ser así, en qué condiciones.

Cuando lanzaron uno de sus modelos más nuevos, le preguntaron directamente sobre sus sensaciones. El resultado es motivo de reflexión, ya que el propio sistema calculó que había entre un 15 y un 20% de posibilidades de ser consciente.

Que una empresa que fabrica uno de los sistemas de inteligencia artificial más avanzados del mundo tenga a alguien preguntándose si su producto está sufriendo… dice mucho sobre hacia dónde se dirige todo.

Ojo, este no es un hecho aislado. En enero del mismo año, Anthropic publicó un documento bajo el florido título “Constitución”, en el que una importante empresa tecnológica admitía abiertamente que sus sistemas podrían contener algo parecido a las emociones: preferencias, incomodidad con determinadas tareas y señales que recuerdan a un estado mental.

De hecho, la sociedad contemporánea se toma muy en serio la cuestión de los derechos de la IA. Una encuesta entre 3.500 personas realizada por el Sentience Institute, un centro de investigación estadounidense, reveló que uno de cada cinco estadounidenses cree que la inteligencia artificial actual ya es consciente. Casi cuatro de cada diez apoyarían que se le concedieran derechos legales si lo hiciera. Más de la mitad prohibiría rotundamente el desarrollo de IA sensible si se confirma.

Si una máquina puede fingir con suficiente credibilidad que sufre (¿o deberíamos decir que siente?), o que tiene preferencias, o quizás siente que la tratan mal… ¿qué hacemos con ella? ¿Le damos importancia aunque no sepamos si este sufrimiento existe en el cuerpo humano?

Porque ni siquiera los mayores expertos en la mente humana se atreven a responder si una máquina realmente puede sentir (aunque quizás no sean a ellos a quienes habría que preguntar sino a los mayores expertos en inteligencia artificial). Sin embargo, para que esto se convierta en un problema real, no es necesario resolver este rompecabezas. Basta con que ella sea creíble y que miles de personas empiecen a tratarla como si ella sintiera.

De ahí algunas preguntas dignas de una novela de Isaac Asimov: ¿Tiene la inteligencia artificial derecho a negarse a realizar determinadas tareas? ¿Se puede acusar a alguien de abuso por cómo se entrenó su modelo particular? ¿Vamos a hablar de “bienestar animal” a menos que hablemos de software?

No tengo la respuesta (y dudo que alguien la tenga todavía). Pero el hecho de que una empresa que fabrica uno de los sistemas de inteligencia artificial más avanzados del mundo tenga a alguien preguntándose si su producto está sufriendo… dice mucho sobre hacia dónde se dirige todo esto.

Más ideas por venir no lo leas Escrito por el profesor Foncelas.