LWYR Revista para el mundo de los abogados
Por Elisa d’Aquin Lema
Licenciada en Ciencias Sociales con mención en Ciencias Jurídicas. Realizó el programa llamado Seeds For The Future junto a Huawei sobre inteligencia artificial.
Actualmente se ha escuchado mucho el concepto de inteligencia artificial, pese a que su origen se remonta a fines del siglo XIX, aproximadamente en los años 40’ y 50’. Tanto ha avanzado la tecnología, las ciencias y, con ello, la medicina, que se ha comenzado a acuñar un nuevo derecho humano relacionado precisamente con estos términos, los neuroderechos. Respecto a este derecho Chile ha sido pionero por el proyecto de regulación constitucional, aunque no ha estado exento de críticas.
Los neuroderechos son un nuevo concepto que busca proteger la integridad, la libertad y la identidad de la mente humana frente a los posibles riesgos de las neurotecnologías. Estas son tecnologías que pueden interactuar con el cerebro, ya sea para leer, modificar o estimular su actividad. Algunos ejemplos de neurotecnologías son las interfaces cerebro-máquina, los implantes neuronales o la estimulación cerebral profunda. Como la controvertida compañía fundada por el empresario Elon Musk llamada Neural Link que consiste en la implementación de un interfaz cerebro -computadora a través del implante cerebral de un chip cuya función es leer la actividad cerebral.
El fundamento de la implementación y valoración de estos derechos se basa en la idea de que el cerebro es el órgano que alberga nuestra conciencia, nuestra personalidad, nuestros recuerdos y nuestras emociones. Por lo tanto, cualquier intervención sobre el cerebro debe respetar nuestra dignidad, nuestra autonomía y nuestra privacidad. Para así garantizar que las neurotecnologías se usen de forma ética, responsable y beneficiosa para la humanidad, y que no se conviertan en herramientas de manipulación, discriminación o violación de los derechos humanos.
Así las cosas, Chile es el primer país del mundo que ha impulsado una legislación para consagrar los neuroderechos a nivel constitucional. De hecho, en septiembre de 2021, el Congreso aprobó por unanimidad una reforma que modifica el artículo 19 N°1 de la Constitución para “proteger la integridad y la indemnidad mental de los avances y capacidades desarrolladas por las neurotecnologías”1. Además, aún se está tramitando una ley que regula los requisitos, condiciones y restricciones para la utilización del desarrollo científico y tecnológico en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella, la cual espero que se apruebe lo más rápido posible porque sería un gran avance, no solo para nuestro país, sino también a nivel internacional. Seríamos pioneros en la legislación sobre esta materia.
La iniciativa chilena ha sido impulsada por la Comisión de Desafíos del Futuro del Senado, con el apoyo de expertos nacionales e internacionales, como el neurocientífico Rafael Yuste, uno de los líderes del proyecto Brain Initiative de Estados Unidos3. Yuste ha propuesto cinco nuevos derechos humanos relacionados con el cerebro: el derecho a la identidad personal, el derecho al libre albedrío, el derecho a la integridad mental, el derecho a la privacidad mental y el derecho a la igualdad mental. La legislación chilena ha sido elogiada por organismos internacionales como la UNESCO, que ha destacado su carácter pionero y su visión anticipatoria frente a los desafíos éticos y jurídicos que plantean las neurotecnologías.
Sin embargo, también ha generado debate y controversia en algunos sectores académicos, científicos, médicos, jurídicos y filosóficos. Entre las críticas se pueden mencionar:
- Que son redundantes, ya que se pueden subsumir bajo otros derechos constitucionales ya existentes, como el derecho a la privacidad, el derecho a la integridad física y psíquica, o el derecho a la igualdad2. Estos derechos ya ofrecerían una protección suficiente frente a los posibles riesgos de las neurotecnologías, sin necesidad de crear una categoría específica para el cerebro.
- Que serían restrictivos, ya que podrían limitar el desarrollo y la aplicación de las neurotecnologías con fines de investigación, diagnóstico o tratamiento de diversas enfermedades o trastornos3. Estos fines tendrían un valor social y sanitario indiscutible, y se verían obstaculizados por una regulación excesivamente cautelosa o paternalista.
- Otros plantean que son problemáticos, ya que se basan en una concepción dualista o esencialista del cerebro, como si fuera el órgano que alberga nuestra identidad, nuestra voluntad y nuestra privacidad4. Esta concepción podría ignorar la complejidad y la plasticidad del cerebro, así como su interacción con el cuerpo y el entorno. Además, podría generar una falsa sensación de seguridad frente a las amenazas más sutiles o indirectas de las neurotecnologías, como la influencia social o la manipulación comercial.
El debate sobre este tema sigue abierto y requiere de un diálogo interdisciplinario e intersectorial que involucre a todos los actores relevantes: legisladores, científicos, médicos, juristas, filósofos, éticos y ciudadanos. A mi parecer los neuroderechos son una forma de anticiparse a los desafíos éticos y jurídicos que ellos plantean, pero también una oportunidad para reflexionar sobre el sentido y el valor de nuestra mente. Además, debo decir que me preocupa el hecho de que actualmente muchas personas desconocen la antigüedad de la inteligencia artificial y los usos que se le han dado los últimos años, pues en entrevistas que han realizado en las calles de Santiago de Chile por encargados del Congreso Futuro se deja en evidencia a muchas personas que no saben que, por ejemplo, las aplicaciones de citas funcionan a través de algoritmos y la programación que realizan ingenieros e ingenieras, es decir, la utilización inteligencia artificial y el machine learning.
Esto quiere decir que muchas personas todavía no sopesan las implicancias de dicha inteligencia, lo que puede llegar a ser sumamente peligroso porque los usuarios podrían entregar muy fácilmente su información personal y ser usada maliciosamente por otros. Esta discusión no se trata sobre generar un miedo y rechazo en la población, como muchas personas me lo han manifestado, especialmente personas mayores, sino que se tome los resguardos legislativos anticipadamente y que también se eduque digitalmente. La educación es la base de toda sociedad. Y si bien la regulación que se propone puede ser imperfecta en muchos sentidos, creo que sería un gran avance en la materia y un modelo a seguir para otras naciones porque es válido y necesario la libertad empresarial para crear y desarrollar negocios, estos no pueden y no debieran nunca ser en contra del bien común de la población. El debate sigue vigente y espero se actúe rápido antes de que se empiecen a ver los riesgos materializados y le siga la ley tardíamente, como suele ocurrir en la mayoría de los casos.
1 Chile, pionero en la protección de los «neuroderechos» (unesco.org)
2 Neurotecnología: qué es, aplicaciones (Iberdrola.com)
3 Chile, laboratorio mundial de los neuroderechos | Ciencia | EL PAÍS (elpais.com)
4 boletin-13828-19-nuroderechos.pdf (diarioconstitucional.cl)
5 Protección de los neuroderechos: inédita legislación va a la Sala – Senado – República de Chile