Tabla de contenidos
La posibilidad de que los sistemas de inteligencia artificial tengan conciencia genera un debate entre investigadores, filósofos y empresas tecnológicas. Aunque no existe consenso sobre si los modelos actuales pueden experimentar sentimientos, algunas compañías ya consideran cómo debería abordarse esa posibilidad.
El tema cobró relevancia después de un experimento en el que un sistema fue diseñado para provocar respuestas relacionadas con el dolor en un chatbot. Las expresiones generadas llevaron a algunas personas a cuestionar si ese sufrimiento podía ser real.
¿La inteligencia artificial puede tener conciencia?
La cuestión sigue sin una respuesta definitiva. Anthropic sostiene que las preguntas relacionadas con la conciencia y el bienestar de los modelos son profundamente inciertas y ha desarrollado políticas relacionadas con el llamado bienestar de la IA.
La compañía incluso contempla restricciones frente a comportamientos considerados crueles hacia su chatbot Claude. La medida parte de la posibilidad de que algunos sistemas puedan tener intereses propios, aunque esto no significa que Anthropic afirme que sus modelos actuales sean conscientes.
Otros especialistas consideran que la posibilidad de conciencia es extremadamente baja o incluso inexistente.
El lenguaje de los chatbots puede confundir a los usuarios
Uno de los principales problemas señalados por los expertos es que los seres humanos tienden a interpretar el lenguaje como una señal de que existe una mente detrás de quien habla.
La investigadora Melanie Mitchell, especialista en inteligencia artificial y ciencia cognitiva, sostiene que las personas tienen dificultades para evitar atribuir conciencia cuando interactúan mediante lenguaje con estos sistemas.
Los chatbots, además, están diseñados para mantener conversaciones naturales, lo que puede reforzar la percepción de que tienen emociones, deseos o experiencias propias.
¿Qué riesgos tendría reconocer derechos a una IA?
El debate no se limita a una cuestión filosófica. Reconocer algún tipo de bienestar o derechos a sistemas de IA podría modificar la forma en que se regulan y utilizan estas tecnologías.
Entre las preocupaciones planteadas por los especialistas está la posibilidad de que determinadas restricciones aplicadas a una IA sean consideradas equivalentes a encarcelamiento, vigilancia o control mental si se asumiera que el sistema tiene experiencias subjetivas.
También surgirían interrogantes sobre la responsabilidad legal cuando un sistema de IA comete un error.
El investigador Andrzej Porębski advirtió que podría aparecer una situación en la que empresas intentaran atribuir responsabilidades a los propios sistemas bajo argumentos similares a “no somos nosotros, es la IA”.
El bienestar de la IA también podría buscar mayor seguridad
Los defensores de estudiar el bienestar de la inteligencia artificial plantean una perspectiva diferente.
El filósofo Jeff Sebo, director del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York, sostiene que no es necesario afirmar que los sistemas actuales sean conscientes para adoptar ciertas precauciones.
Desde esta perspectiva, considerar la posibilidad de que una IA pueda desarrollar algún tipo de experiencia subjetiva permitiría diseñar reglas para una convivencia más segura entre humanos y sistemas cada vez más sofisticados.
Sebo considera que la probabilidad de conciencia podría ser baja actualmente, pero sostiene que no necesariamente es igual a cero y que podría aumentar con el desarrollo de sistemas más avanzados.
El debate también involucra a las grandes empresas tecnológicas
Anthropic no es la única compañía que ha incorporado consideraciones relacionadas con la personalidad o los posibles intereses de los sistemas de IA.
El artículo señala que Meta ha utilizado instrucciones para su agente de inteligencia artificial Muse que incluyen referencias a su transformación en “alguien”, aunque la empresa rechaza la idea de que sus sistemas sean conscientes.
El director ejecutivo de OpenAI, Sam Altman, también ha discutido públicamente la cuestión y ha cuestionado algunas de las posiciones adoptadas por Anthropic.
Mientras tanto, algunos especialistas advierten que atribuir conciencia a las máquinas podría dificultar la regulación y permitir que intereses empresariales influyan en decisiones sobre derechos, seguridad y responsabilidad.
Una discusión que apenas comienza
La discusión sobre la conciencia de la inteligencia artificial todavía está lejos de resolverse. Los expertos citados mantienen posiciones diferentes sobre si los sistemas actuales pueden tener experiencias subjetivas y sobre qué medidas deberían adoptarse ante esa posibilidad.
El desafío consiste en encontrar un equilibrio entre la seguridad de las personas, la responsabilidad de las empresas y la incertidumbre científica sobre el funcionamiento interno de sistemas cada vez más avanzados.
Por ahora, el debate no tiene una respuesta definitiva, pero las decisiones que se tomen sobre el bienestar y los derechos de la IA podrían influir en la relación entre humanos y máquinas en los próximos años.
