El rápido uso de la inteligencia artificial en las escuelas, desde los jardines de infancia hasta las universidades, proporciona al país una base de datos sin parangón.
Publicado originalmente por https://www.wsj.com/ el 24 de octubre de 2019 (adaptación)
En una escuela primaria del Condado de Jinhua Xiaoshun en China, a unas pocas horas de Shangai, ya se usa la tecnología de inteligencia artificial en clases.
En un curso de quinto año básico, la jornada escolar comienza con la instalación de un dispositivo sensor de ondas cerebrales, un “cintillo” o “diadema” que deben utilizar todos los estudiantes. Se trata de un mecanismo fabricado en China que consta de tres electrodos, dos de los cuales se ubican detrás de las orejas y el otro en la frente.
Estos sensores captan señales eléctricas enviadas por las neuronas de los estudiantes, las que se envían en tiempo real al computador del profesor, quien, de esta forma, podría descubrir rápidamente quién está prestando atención y quién no.
Luego se genera un informe que muestra qué tanto prestó atención la clase. Incluso detalla el nivel de concentración de cada estudiante en intervalos de diez minutos. Estos resultados se envían a un grupo de chat para padres.
“Rojo significa que estás profundamente enfocado, azul que estás distraído. Blanco significa que estás offline”, comenta uno de los estudiantes que utiliza el cintillo.
El ámbito educacional es solo uno de los ambiciosos focos del plan de China para convertirse en líder mundial en inteligencia artificial. Además, ha logrado disponer una economía sin dinero en efectivo, pues las personas realizan sus compras con sus “caras”. Y una gigantesca red de cámaras de vigilancia, que también se vale del reconocimiento facial, simplifica la labor de la policía en el monitoreo de los ciudadanos.
En lo que concierne a la tecnología utilizada en la escuela, esta no termina en el uso de diademas de rastreo de neurodatos. También cuentan con robots que analizan la salud y niveles de participación de los estudiantes, quienes además llevan un chip en sus uniformes para rastrear sus ubicaciones. Cámaras de vigilancia monitorean qué tan frecuentemente los estudiantes revisan sus teléfonos o bostezan durante clases.
Ante esta arremetida, expertos internacionales de variadas disciplinas han concordado en que aún no hay investigación suficiente para determinar los alcances del uso de estas nuevas tecnologías.
En el caso del uso de los cintillos, por ejemplo, no se sabe con certeza si los neurodatos proporcionados por los estudiantes solo se utilizan para buscar una mejora de rendimiento académico o si también son enviados a proyectos de investigación financiados por el gobierno.
Es por razones como esta que una serie de iniciativas a nivel global están haciendo sonar las alarmas sobre varios aspectos del enorme impulso del mundo hacia la inteligencia artificial.
La ingente cantidad de preguntas que han derivado de la implantación de este tipo de proyectos apuntan desde los estándares de seguridad y privacidad en estas aplicaciones hasta el tipo de ciudadanos adultos que se están formando en esos auténticos laboratorios de las generaciones futuras que son las salas de clases chinas.
En un futuro próximo, serán las preguntas que la sociedad mundial en su conjunto deberá estar preparada para responder.
PODCAST
¿Qué es lo que viene tras la reforma constitucional sobre neuroderechos de Chile?
En un hecho histórico para Chile y el mundo, el lunes 25 de octubre de 2021 fue publicada una reforma constitucional que garantiza la protección de los neuroderechos. Con esto, Chile no solo se instaló como pionero a nivel mundial en la protección de la privacidad mental de las personas, sino que ha sentado un precedente importante para sintetizar algunas preocupaciones que desde el ámbito internacional se están manifestando en relación al impacto de las neurociencias sobre los derechos humanos. Expertos en neurolegislación comparten sus proyecciones.
Por Luis Ramírez. 27 de Octubre 2021
En un hito histórico en el mundo, el lunes 25 de octubre fue publicada en el Diario oficial de la República de Chile la ley núm. 21.383, que “modifica la carta fundamental para establecer el desarrollo científico y tecnológico al servicio de las personas”.
Luego de ser discutida y aprobada por el Congreso y Tribunal Constitucional, esta reforma fue promulgada a través de un decreto supremo por el Presidente de la República, Sebastián Piñera. Finalmente, al ser publicada en el Diario Oficial la disposición ha pasado a constituir texto vigente de la Constitución Política de la República de Chile.
La reforma modifica el número 1° del artículo 19 de la Constitución Política chilena, agregando el siguiente párrafo final al texto: “El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”.
De este modo, Chile ratifica su condición como Estado pionero a nivel global en el resguardo de los neuroderechos.
Un hito con historia
Ya en 2019, el impacto del trabajo de The NeuroRights Foundation, pioneros a nivel global en promover la necesidad de establecer estándares de derechos humanos en esta materia, llegó a Chile. Ese año, el neurocientífico Rafael Yuste, creador de esta iniciativa, visitó este país para participar en el Congreso del Futuro, con una conferencia sobre la importancia de los neuroderechos.
El impacto de su participación fue inmediato y motivó el compromiso de la Comisión del Futuro del Senado, con el liderazgo del senador Guido Girardi, para avanzar en una propuesta de ley que pudiera regular las neurotecnologías. A ello se sumó el compromiso presidencial de apoyar esta iniciativa, la que a poco andar se convirtió en una de las propuestas emblemáticas dentro de la agenda de ciencia del Ejecutivo.
Fue así como 7 de octubre de 2020 fueron ingresados a trámite legislativo dos proyectos de ley que buscan regular la protección de los neuroderechos, iniciados por moción parlamentaria de los senadores Girardi, Alejandra Goic, Francisco Chahuán, Juan Antonio Coloma y Alfonso De Urresti.
Finalmente, ha sido aprobado el primero de estos proyectos. Esta reforma puede tener una importancia fundamental para evitar las intervenciones ilegítimas en la actividad neuronal a través de dispositivos neurotecnológicos de lectura de datos cerebrales denominados interfaces cerebro computadora (ICC), así como otros métodos no invasivos.
Mientras, sigue avanzando en el Congreso de este país un proyecto de ley complementario “Sobre protección de los neuroderechos y la integridad mental, y el desarrollo de la investigación y las neurotecnologías”.
El CJI juega un rol fundamental
Estos avances en materia de protección de derechos fundamentales en el contexto del desarrollo científico y tecnológico fueron precedidos y respaldados por el trabajo sobre este tema del Comité Jurídico Interamericano de la OEA (CJI).
En su último período ordinario de sesiones de agosto pasado, este organismo aprobó una resolución, la declaración sobre “Neurociencia, Neurotecnologías y Derechos Humanos: nuevos desafíos jurídicos para las Américas, la que tiene presente los avances que se han dado en este campo y las preocupaciones éticas y jurídicas que significan las neurociencias y las tecnologías para los derechos y libertades fundamentales de las personas.
Ramiro Orias, integrante del CJI a cargo del tema, destaca la importancia del desarrollo realizado en Chile para este proyecto: “Para la adopción de esta resolución, efectivamente el trabajo pionero y el avance que ha significado las discusiones en relación a la reforma constitucional en Chile han sido precedente importante para sintetizar algunas preocupaciones que desde el nivel internacional se están tomando en relación al impacto de las neurociencias sobre los derechos humanos”.
Estas preocupaciones han sido concentradas en cinco ejes temáticos en la declaración del CJI: la demostración del modo en que las neurotecnologías y la ausencia de regulaciones puede significar algún tipo de afectación a la personalidad y el condicionamiento de la autonomía de las personas; las intervenciones legítimas e ilegítimas que se puedan dar sobre los derechos a la salud y la integridad física y mental; la protección de la privacidad mental y de los datos personales; el aseguramiento de los principios de igualdad de acceso al disfrute de estas ciencias y evitar su uso no discriminatorio; y el impacto que podrían tener estas tecnologías en relación a la libertad de expresión y el acceso a la información pública.
“Cinco ejes temáticos que en alguna medida concentran las principales preocupaciones, pero no necesariamente agotan todas, podría haber otras que tienen que ver con los derechos a la educación, por ejemplo”, sentencia Orias.
Del mismo modo, expertos en neurolegislación han celebrado la magnitud del impacto que la aprobación de esta reforma implicaría para el mundo, en lo concerniente a la protección no solo de los neuroderechos sino que de todas estas preocupaciones derivadas del impacto tecnológico para los derechos fundamentales de las personas.
Un campo abierto para la regulación tecnológica
El primer punto relevante establecido por los expertos dice relación con el alcance de la reforma, en tanto coinciden en que esta trasciende la protección exclusiva de los datos neuronales de las personas para alcanzar el ámbito de los derechos fundamentales en el contexto amplio del desarrollo científico y tecnológico del mundo actual.
Francesca Fanucci, experta en derecho Internacional, Senior Legal Advisor del European Center For Not-For-Profit Law y quien formó parte del grupo de especialistas que trabajó en la elaboración de la declaración de neurotecnologías y derechos humanos de la OEA, sostiene que la aprobación de la reforma constitucional que protege los neuroderechos en Chile ratifica este punto:
“Los medios de comunicación están haciendo hincapié en el impacto que esta reforma constitucional debería conllevar en el desarrollo de las neurociencias y neurotecnologías y, de hecho, entiendo que el mismo debate parlamentario fue animado por las implicaciones éticas de estos tipos particulares de tecnologías. Sin embargo, me complace averiguar que la versión final aprobada por el parlamento chileno va más allá de la mera referencia a estos campos y aplicaciones exclusivamente, porque establece que el “desarrollo científico y tecnológico” en general debe respetar la vida y la integridad física y psíquica de las personas”.
Carlos Amunátegui, profesor del programa de Derecho, Ciencia y Tecnología de la Pontificia Universidad Católica de Chile y participante en la elaboración de la reforma, también destaca el hecho de que la aprobación de esta supone un evento mayor en la protección de los derechos fundamentales y de la regulación de tecnología en general:
“Es una reforma innovadora, no hay nada a nivel mundial referido a este tema, el único texto oficial que haya salido que yo conozca está incluido muy brevemente en la declaración de derechos digitales de España, pero verdaderamente un texto de la potencia y de la profundidad de una reforma constitucional para proteger los neuroderechos es innovador, es una diferencia profunda con lo que existía. Creo que es un paso muy importante”.
Similar apreciación propone la abogada Isabel Cornejo, profesora investigadora de la Universidad Autónoma de Chile especializada en neuroderechos, para quien la aprobación de la reforma constitucional marcó un hito jurídico con la capacidad de expandirse a “distintas” culturas jurídicas:
“En distintos países se mira con atención e interés esta reforma. Por ejemplo, gente de Perú e Italia con la que trabajo en investigación en neurociencia y derecho han podido entender de qué se trata esto y les ha permitido considerar que la Unión Europea debería abrirse hacia esta idea de los neuroderechos como una categoría distinta de los datos, que ya por cierto se contemplan en el reglamento de protección de datos de la Unión Europea.
Agrega que la atención también proviene de Latinoamérica: “En México, en Colombia, en Argentina, también se ha mirado con mucho interés esta reforma”.
Legislatura de “anticipación”
Del mismo modo en que la sola idea de la lectura de datos mentales parecía, hasta hace poco, perteneciente exclusivamente al campo de la literatura de anticipación de ciencia ficción, les consultamos a los expertos sobre la proyección que la reforma permite realizar.
Para Isabel Cornejo, una consecuencia significativa de la consagración de la protección de neurodatos se verá en el campo de las ciencias jurídicas: “Esto impulsa aún más la incipiente rama de desarrollo del neurolaw (neuroderecho) y el neurorights (los neuroderechos), pues serán en el futuro asignaturas incluidas en las mallas curriculares de la carreras de derecho. Las neurociencias aplicadas al derecho significan una nueva heurística desde donde pensar todo el derecho, absolutamente todo”.
Al respecto, enfatiza en la importancia de sentar precedentes a partir de este tipo de iniciativas para el desarrollo global del campo de los derechos tecnológicos: “no solo la teoría, o el derecho penal o civil, porque las concepciones morales subyacentes que existen en el derecho han manifestado una evolución precisamente a raíz de los hallazgos en neurociencia, inteligencia artificial y la biotecnología. Entonces, esas actualizaciones científicas sirven para pensar las reglas, los conceptos y las concepciones que van en evolución”.
Por su parte, Carlos Amunátegui destaca tanto la reforma aprobada como la solidez con la que avanza el proyecto de ley complementario en el Congreso de Chile, por tratarse de una ley profunda y preocupada por los derechos fundamentales de las personas: “Es un gran paso adelante. Creo que por primera vez permite al derecho anticiparse a los cambios sociales y a la tecnología, de manera de proyectar una protección similar a la del espacio análogo-analógico respecto al espacio virtual-digital”.
Del mismo modo, Francesca Fanucci recalca que gracias a esta renovada protección de rango constitucional “podrá fácilmente interpretarse para incluir a todas las tecnologías nuevas y emergentes, tal y como la llamada “inteligencia artificial” y los sistemas automatizados de toma de decisión impulsados por algoritmos, no solo las neurociencias y neurotecnologías. Por esta misma razón, esta reforma es un ejemplo fundamental que otros países deberían seguir también”.
El desafío de impulsar los neuroderechos en la región y el mundo
A la hora de plantear los desafíos que a partir de la reforma chilena Fanucci pone de relieve que esta no impactará exclusivamente al ámbito de los neuroderechos, sino que de la inteligencia artificial en general:
“En el amplio contexto de la regulación de las nuevas tecnologías basadas en la inteligencia artificial, hay varias iniciativas en curso a nivel internacional y regional: por ejemplo, la UNESCO este noviembre va a discutir y aprobar una recomendación sobre la ética de la Inteligencia Artificial. Aunque se trata de un instrumento de principios y no vinculante, tiene valor suficiente y autoridad para poderse utilizar como líneas guías para regular la IA a nivel global o regional (en la Unión Europea, el Consejo de Europa o la OEA) o influir en los enfoques nacionales de gobernanza de la IA u otros actores privados como las empresas”.
De esta forma, augura un panorama regulador alentador: “Además, la Unión Europea y el Consejo de Europa ya están desarrollando instrumentos normativos regionales y asimismo podría (me atrevo a decir «debería») empezar a hacer la OEA, promoviendo por ejemplo negociaciones para un marco regional de regulacion de la nuevas tecnologías para que cumplan con los derechos fundamentales de las personas”.
Isabel Cornejo sintetiza la relevancia del proceso regulador iniciado en Chile: “Yo creo que está reforma constitucional es una especie de catalizador de todos esos procesos que en algún momento iban a llegar a ser, pero se pensó primero en Chile, por cuestiones coyunturales, probablemente”.
Más que una reforma
El siguiente desafío para Chile será conjugar estas reformas con el trabajo que está realizando la Convención Constitucional, organismo encargado de generar una nueva carta fundamental para este país. Para ello, los expertos esperan que la Comisión sobre Sistemas de Conocimiento, Ciencia y Tecnología de este organismo profundice sobre una normativa que fomente el desarrollo tecnológico y, a la vez, resguarde la protección de los derechos humanos.
En el contexto internacional, Naciones Unidas y OEA observan atentamente este proceso legislativo chileno. Inclusive, países como Brasil, Argentina y España han iniciado discusiones sobre esta problemática a fin de integrarlos a sus correspondientes legislaciones.
Desde el CJI, han sido enfáticos al señalar la relevancia de sumar actores que tomen acciones sobre esta temática.
En primer lugar, la declaración de este organismo ha hecho un llamado a los Estados a la necesidad de anticiparse a estas preocupaciones y a la necesidad de impulsar reformas legislativas políticas públicas que contribuyan a promover igualdad en condiciones de acceso a los beneficios de estas ciencias.
Además, han hecho un llamado para que el sector privado enfoque la innovación en el marco de estándares y buenas prácticas y compatibles con los derechos humanos, así como a la comunidad académica y al mundo científico para que también se promueva una investigación sensible a los derechos humanos.
Finalmente, han resuelto continuar con el tratamiento de este tema en su agenda de trabajo y avanzar hacia un nuevo documento de principios interamericanos en materia de neurociencias, tecnologías y derechos humanos.
Tal vez lo más importante radica en este hecho: la reforma chilena ha sentado un precedente fundamental para la propuesta de principios sobre neurotecnologías y derechos humanos que en marzo próximo será presentada ante el CJI, la que está siendo preparada por el grupo de expertos que trabajó en la declaración aprobada en agosto: Rafael Yuste, Eduardo Bertoni, Tomás de la Quadra-Salcedo, Silvia Serrano, Francesca Fanucci, Verónica Hinestroza, Ciro Colombara, Moisés Sánchez y Amélie Kim Cheang, además del jurista Ramiro Orias.
Este último se encarga de subrayarlo:
“Creemos que es muy importante esta iniciativa vanguardista que pone a la región en lo más alto de la discusión global sobre el impacto de estas tecnologías sobre los derechos humanos de las personas. A partir de esta declaración se abre una nueva agenda de trabajo que busca prevenir que esta área constituya una nueva brecha de discriminación, de diferencias o de desigualdades en nuestras sociedades”.
PODCAST
Episodio 4
¿Hackeo al Cerebro?
Conversando con Chiara Saracini
Doctora en Neurociencias Cognitivas
En este episodio conversamos con Chiara Saracini, Doctora en Neurociencias Cognitivas, sobre el modo en que los últimos avances de la neurotecnología están poniendo a prueba a la humanidad: por ejemplo, las interfaces cerebro-computador (BCI) que leen datos mentales sin nuestro consentimiento y comprometen el derecho a la privacidad mental, o el uso de algoritmos de IA y la posibilidad de “neuromejora” que generan discriminación, potencialmente pudiendo acentuar las desigualdades ya existentes entre la población.
¿Qué hacer ante este panorama? Chiara nos muestra una excelente guía de acciones a realizar para permitir que la ciencia y la tecnología puedan seguir avanzando en beneficio de todos y todas.
Los dilemas de la privacidad mental
Todos los proyectos de lectura de los datos mentales de las personas, lo cuales se encuentran en distintas etapas de desarrollo, comparten el anhelo perseguido por la ex vicepresidenta del equipo Building 8 de Facebook, Regina Dugan, que presentó hace cuatro años: decodificar el discurso de la mente para compartirlo con el mundo exterior.
Por Luis Ramírez & Moisés Sánchez. 8 de Septiembre 2021
Al igual que la tecnología desarrollada por Facebook, actualmente bautizada como Thought-to-text (“Pensamiento-a-texto”), muchas interfaces cerebro computadora (ICC) están siendo diseñadas para traducir el habla consciente de los usuarios, con lo cual es posible que también puedan acceder a los pensamientos inconscientes de estos, obteniendo eventualmente información sobre las posturas políticas de los consumidores, detalles personales sobre la vida de los usuarios, salud, ambiciones y miedos.
Este escenario encendió las alarmas en una serie de organizaciones internacionales relacionadas con la protección de derechos de las personas, las que consideran que la materialización de las ICC abriría posibilidades a la auscultación y exposición “pública” de aquello que antes parecía el único reducto de la intimidad humana, tales como pensamientos, deseos, emociones, subconsciente y toda aquella información producida por la actividad neuronal, sin que existan, hasta el día de hoy, normas o principios de derechos humanos que permitan proteger la intimidad neuronal.
Al respecto, Dugan ya parecía prevenida de esta aprensión en aquella demostración pública de 2017. Sin esperar que nadie lo preguntase, tempranamente en su elocución pública advirtió que “no estamos hablando de decodificar tus pensamientos aleatorios, eso sería más de lo que a cualquiera de nosotros le interesaría saber y no tenemos el derecho a saber. Piénsenlo más bien así: toman muchas fotos y eligen compartir solo algunas de ellas. Del mismo modo, tienen muchos pensamientos y eligen compartir solo algunos de ellos. Estamos hablando de elegir “esas” palabras, aquellas que ya decidieron compartir, enviándolas al centro del habla (speech center) de tu cerebro”.
Los “neuroderechos” en el centro
Sin embargo, esta advertencia temprana no parece haber dejado satisfechas a las organizaciones observadoras de la protección de los derechos humanos en la era digital. Este debate sobre los neuroderechos, que recién comienza, surge por el liderazgo de Rafael Yuste, neurocientífico que fue nombrado por Obama para liderar la Brain Initiative en USA, y que también forma parte del Morning Side Group, colectivo conformado por los 27 científicos y expertos a nivel global en el campo de la neurociencia, quienes están preocupados por los impactos que podrían tener estos avances para la privacidad mental de las personas.
Con motivo de estas preocupaciones, el doctor Yuste creó la Neurotights Initiative de la Universidad de Columbia, iniciativa que ha tenido el rol de promover la necesidad de establecer estándares de derechos humanos en esta materia a nivel global. Una serie de organizaciones internacionales de las Américas, como la Red Pro Bono de las Américas y Fundación Kamanau, se han propuesto impulsar este debate en el plano interamericano en conjunto con la Neurotights Initiative. Producto de este esfuerzo, el Comité Jurídico Interamericano de la OEA, en su sesión de 8 de abril de 2021, incorporó en su temario oficial el “desarrollo de estándares internacionales sobre neuroderechos”, definiendo como su relator al jurista Ramiro Orias de Bolivia.
Estos desarrollos de la industria también han llamado la atención de los medios de comunicación, los que también comienzan a cuestionar la afirmación de 2017 realizada por Dugan: ¿Podrán honrar estas tecnologías de interfaz de computadora cerebral nuestros pensamientos más íntimos? El debate recién comienza.
Tecnologías de neurociencia para registrar e influir en la actividad cerebral
El Cerebro: Podemos Mejorarlo por Usted
Durante las últimas dos décadas, se han realizado importantes avances en neurociencia, los cuales están posibilitando el desarrollo de innovadores dispositivos que permiten “mejorar” cognitivamente a los seres humanos en una variedad de contextos.
Por Luis Ramírez & Moisés Sánchez. 6 de Septiembre 2021
Uno de los más controversiales axiomas del siglo XXI es aquel referido al transhumanismo: la idea de que gracias al importante progreso de la ciencia y la tecnología, seremos capaces de transformarnos en seres significativamente superiores a los humanos comunes y corrientes del presente, y, de ese modo, poder alcanzar la inmortalidad.
Esta “mejora” humana hace referencia, concretamente, a una gama muy amplia de técnicas y enfoques dirigidos a aumentar las funciones corporales o cognitivas, a través de fármacos, prótesis, implantes médicos, colaboración “humano-computadora” para mejorar el rendimiento, de lo cual se obtendrían características y capacidades mejoradas, a veces, más allá de las capacidades humanas existentes.
Seres humanos “mejorados”
Durante estos últimos veinte años de investigación y desarrollo, se han propuesto y discutido muchas formas de delimitar semánticamente el concepto de “mejora humana”, estableciéndose una disyuntiva particular, por ejemplo, en la pregunta sobre si una intervención que simplemente intenta restaurar la función perdida debido a una enfermedad, lesión o discapacidad aún podría identificarse como una mejora.
Como un modo de superar esta disyuntiva, la literatura científica ha abordado este concepto desde su concepción como un subconjunto de medios para el aumento mental (tecnologías de neurociencia) y solo en un área particular: la mejora cognitiva humana. Es decir, la mejora de los procesos de adquisición y generación de conocimiento y comprensión del mundo que nos rodea.
Estos procesos abarcan la atención, la formación del conocimiento, la memoria, el juicio y la evaluación, el razonamiento, la resolución de problemas y la toma de decisiones, así como la comprensión y producción del lenguaje.
Sin embargo, para que las tecnologías de neurociencia logren registrar e influir en la actividad cerebral de las personas y lleven a cabo el desafío del aumento cognitivo, se requiere no solo de la estimulación e interpretación de áreas específicas del cerebro sino que también del establecimiento de otro factor determinante: el grado de invasividad, es decir, hasta qué punto una tecnología requiere la introducción de instrumentos en el cuerpo. Por esta razón, resulta relevante distinguir entre aquellas tecnologías de grabación de actividad cerebral no invasivas y aquellas que sí lo son.
Tecnologías no invasivas
Por tecnologías de grabación no invasivas se entiende aquellas que no requieren de cirugía, pues se trata de dispositivos que se colocan encima del cráneo, a modo de “gorra” o “diadema”.
Se han señalado como las más populares para registrar la actividad neuronal la electroencefalografía (EEG), la espectroscopia funcional de infrarrojo cercano (functionalnear-infraredspectroscopy, fNIRS), la resonancia magnética funcional (functionalmagneticresonanceimaging, fMRI) y la magnetoencefalografía (MEG).
Actualmente, las tecnologías de grabación no invasivas más discutidas son las que están siendo desarrolladas por compañías tecnológicas tales como Facebook o Microsoft, corporaciones que han hecho públicas sus aspiraciones de convertirse en pioneras en la creación y comercialización de ICC (Interfaz Cerebro Computadora, en inglés, Brain Computer Interfaces, BCI) que logren reemplazar a los teléfonos inteligentes en funciones tales como conectar al usuario a la red y enviar mensajes de texto sin tener que escribirlos utilizando ni los dedos para digitar en el teclado o los ojos para velar de que el mensaje se redacte correctamente.
Aunque estas últimas tecnologías se encuentran en fases incipientes de desarrollo, plantean una serie de problemas éticos que ya están siendo posicionados en el debate social por una serie de iniciativas, dentro de las cuales la Neurotights Initiative de la Universidad de Columbia ha tenido el rol de promover la necesidad de establecer estándares de derechos humanos en esta materia.
Sin embargo, los dilemas morales planteados por las ICC invasivas llevan bastante más tiempo instalados en la discusión pública.
Tecnologías invasivas
Las tecnologías invasivas son aquellas técnicas de grabación cerebral que usan electrodos directamente insertados en el cerebro o colocados en su superficie (mientras que las no invasivas colocan los electrodos en el cuero cabelludo).
El principal de estos procedimientos invasivos de registro neuronal es la electrocorticografía (ECoG), a través del cual, en tanto invasivo, se obtienen grabaciones menos afectadas por el ruido y las distorsiones inducidas por el cuero cabelludo y el cráneo, y con una buena resolución temporal y espacial. Sin embargo, la implantación de electrodos requiere cirugía cerebral, lo que encarece estas técnicas y presenta eventuales problemas éticos.
La estimulación cerebral profunda (Deep brainstimulation, DBS) es una tecnología de estimulación cerebral invasiva ampliamente utilizada para el tratamiento del movimiento (por ejemplo, en la enfermedad de Párkinson) y los trastornos de la memoria. Requiere la implantación de neuroestimuladores en partes específicas del cerebro, que envían pulsos eléctricos para interferir con la actividad neuronal en los sitios “objetivo” dentro del cerebro.
Debido a su invasividad, problemas éticos y costo, la DBS y los electrodos implantados solo se utilizan en el sector médico para mejorar la calidad de vida de los pacientes. La investigación de aumento cognitivo en humanos con tecnologías invasivas ha sido hasta ahora muy limitada y se ha llevado a cabo con personas a las que les han implantado dispositivos por otras razones clínicas (por ejemplo, enfermedad de Párkinson, epilepsia, etc.).
Desde la literatura científica, diversos ámbitos de la integridad humana han sido considerados afectados por la implementación de estas tecnologías, planteándose un significativo campo de dilemas éticos propuestos por estas tecnologías de grabación y estimulación cerebral invasivas, cuyas dimensiones abarcan variadas esferas de desarrollo humano.
Dilemas éticos
Los nuevos problemas éticos que han planteado estos avances en neurociencia y el desarrollo de estas tecnologías de neurociencia se agrupan bajo el nombre de “neuroética”. Los problemas éticos más importantes asociados con el aumento mental humano y los distintos tipos de ICC son los siguientes:
Lectura mental y privacidad. Algunas de estas técnicas para detectar, mapear e interpretar la actividad neuronal de un individuo en circunstancias específicas pueden generar preocupaciones en relación con el libre albedrío, la privacidad, la autonomía y la responsabilidad, dada su capacidad potencial para «leer» o «evaluar» los pensamientos, emociones, estados o actitudes de alguien, lo que podría afectar el comportamiento moral o social de las personas.
Autonomía y responsabilidad. Se han planteado dilemas de responsabilidad como el siguiente: si la ICC emite incorrectamente un comando que causa daños o pérdidas financieras, ¿quién debería ser legalmente responsable de esto? ¿El diseñador de la ICC o el usuario? Dado que las ICC no son 100% precisas, este problema podría llegar a ser recurrente.
Se han planteado otros dilemas, como, por ejemplo, cuando el cerebro de un codificador y el cerebro del decodificador están conectados y el decodificador inicia una secuencia de acciones, ¿Quién es responsable de ellas? Dada la cantidad de información desplegada, preguntas como estas podrían no conseguir una respuesta satisfactoria de manera muy sencilla.
Seguridad e invasión de la estimulación cerebral. La utilización de las técnicas de estimulación cerebral para aumentar la capacidad neuronal de las personas podría cambiar y afectar realmente la actividad cerebral de estas, en particular con los métodos invasivos. Por ejemplo, cuando la estimulación cerebral se usa para mejorar la cognición, actualmente hay poca comprensión sobre cuán segura es dicha estimulación para usarla de manera regular y durante intervalos de tiempo prolongados. Además, existe el problema de la invasividad.
Sociedad. Algunas aprensiones sobre los beneficios de las ICC para la sociedad dicen relación con: su alto costo (¿se justifican los costos por los beneficios?), los riesgos potenciales impuestos por una dependencia creciente de las tecnologías de la neurociencia, que pueden tener efectos sociales negativos imprevistos y el problema general del derecho a la privacidad social en tanto estas tecnologías se utilicen como medios sofisticados de vigilancia (como ocurre actualmente en el contexto del mundo enfrentado a la pandemia del Covid-19).
¿Demasiado tarde o demasiado pronto?
Ante la serie de problemas de carácter ético que la implementación de tecnologías de escaneo mental, invasivas y no invasivas, han planteado sobre todo durante las últimas dos décadas, muchas voces, como la de Rafael Yuste, uno de los directores de la Neurorights Iniciative, se han alzado alarmando sobre la inminencia del momento en que la neurotecnología comience a acceder a los pensamientos, percepciones, emociones y memoria del ser humano. Para Yuste, esta situación debería ser la principal razón por la cual se debería regular el uso de esta tecnología, antes de que se a demasiado tarde.
“Hay gente que dice que es demasiado pronto y otras dicen que es demasiado tarde. Pero que las compañías tecnológicas se hayan incorporado con miles de millones de dólares en el último año a la carrera neurotecnológica, es un motivo de urgencia”, afirmó en octubre del año pasado en entrevista con el diario El País de España.
Latinoamérica se Pone a la Vanguardia en la Protección de la Privacidad Mental
«Lo que está en juego es la posibilidad de entrar en el santuario más íntimo de la persona misma, en la esencia de su identidad, afectando a su dignidad, al libre desarrollo de la personalidad, y redefiniendo lo que significa ser humano. La ausencia de regulaciones locales e internacionales es un escenario que genera gran preocupación».
Por Rafael Yuste y Ciro Colombara
Miembros del grupo de expertos sobre neuroderechos.
Santiago de Chile, 11 de agosto de 2021
El Comité Jurídico Interamericano de la OEA (CJI) aprobó este miércoles 11 de agosto una histórica declaración sobre “Neurociencia, Neurotecnologías y Derechos Humanos: Nuevos desafíos jurídicos para las Américas”.
Este es el primer pronunciamiento sobre neurotecnologías que emana desde esta entidad de la OEA, que tiene el rol de promover el desarrollo del derecho internacional en las Américas. Con este paso, se pone a la región latinoamericana a la vanguardia de este debate a nivel global, y es un primer paso para la codificación y protección de los neuroderechos, definidos como nuevos derechos humanos que buscan proteger a la ciudadanía de abusos potenciales por la utilización indebida de neurotecnologías.
El texto hace un llamado de alerta sobre los impactos de las neurotecnologías en los derechos humanos, especialmente la libertad y autonomía, la privacidad de nuestros pensamientos y emociones, así como las eventuales discriminaciones que pueden emanar de su uso.
En abril de este año, el mundo científico y tecnológico se vio sorprendido por los avances de la empresa Neuralink de Elon Musk, que insertó chips cerebrales en un macaco, el que podía controlar un videojuego con sus pensamientos. Ya en 2020 el magnate había declarado su intención de implantar estos chips en humanos. Como este caso, hay muchos otros en el mundo de la industria tecnológica.
Estas tecnologías han tenido un importante desarrollo para usos médicos, tales como el tratamiento de Parkinson y epilepsia. Pero su uso se ha extendido también para fines comerciales y militares. Muchas compañías del sector están desarrollando proyectos que buscan “leer” el cerebro, e incluso “escribir” en el mismo, sin que existan normas legales que regulen el uso que se hace de estos datos cerebrales, y prevenir su eventual manipulación.
De esta manera, lo que está en juego es la posibilidad de entrar en el santuario más íntimo de la persona misma, en la esencia de su identidad, afectando a su dignidad, al libre desarrollo de la personalidad, y redefiniendo lo que significa ser humano. La ausencia de regulaciones locales e internacionales es un escenario que genera gran preocupación.
Por ello, la declaración del CJI hace un llamado a los estados para “anticiparse a estas preocupaciones y prestar especial atención al desarrollo de estas tecnologías mediante regulaciones, que ofrezcan salvaguardas suficientes para que su desarrollo e implementación progresiva no constituyan amenazas a los derechos y libertades protegidos en el marco jurídico interamericano”.
Esta declaración constituye un paso fundamental e histórico dentro del proceso de reconocimiento de los neuroderechos a nivel internacional. El mismo Comité Jurídico resolvió mantener este tema en su agenda de trabajo, con el fin de desarrollar unos principios interamericanos en materia de neurociencia, neurotecnologías y derechos humanos “que contribuyan a orientar y armonizar las regulaciones nacionales”.
Durante 2020, anticipando estas mismas preocupaciones, el Senado de la República de Chile comenzó la tramitación de dos proyectos de ley, impulsados por el Senador Guido Girardi y con la asesoría externa del profesor Rafael Yuste de la Universidad Columbia, portavoz del grupo científico de Morningside formado por expertos en el tema. Uno busca consagrar el amparo constitucional a la integridad mental, y el otro regula las neurotecnologías, constituyéndose en las primeras iniciativas legales a nivel mundial sobre la materia, que se espera sean aprobadas dentro de poco. Estos proyectos constituyen los primeros pasos en orden a regular las nuevas neurotecnologías, y un antecedente fundamental para el trabajo del Comité Jurídico Interamericano.
En mayo de este año, la Neurorights Initiative de la Universidad de Columbia, la Red Pro Bono de las Américas y Fundación Kamanau, convocaron a un grupo de expertos para trabajar en una propuesta de declaración sobre neuroderechos, el que quedó integrado por Rafael Yuste, Eduardo Bertoni, Tomás de la Quadra-Salcedo, Silvia Serrano, Francesca Fanucci, Verónica Hinestroza, Ciro Colombara, Moisés Sánchez y Amélie Kim Cheang, además del jurista Ramiro Orias, integrante del Comité Jurídico Interamericano a cargo del tema.
Dichos expertos lograron sistematizar las preocupaciones que existen por las aplicaciones de estos avances, recogiendo los debates previos generados en UNESCO y la OECD, así como las implicancias que existen desde la inteligencia artificial y el uso de mecanismos automatizados, que son una pieza fundamental para el funcionamiento de los dispositivos neurotecnológicos.
Producto de este trabajo conjunto, se elaboró la propuesta de declaración que fue aprobada por dicha entidad de la OEA, la que inaugura un renovado debate sobre la relación entre ciencia, tecnología y derechos humanos en las Américas, y un antecedente para los futuros y necesarios debates que deben darse en el marco de Naciones Unidas y la OEA.
Nota: Este artículo fue publicado originalmente en la sección de opinión de
https://www.univision.com/noticias/opinion/latinoamerica-vanguardia-proteccion-privacidad-mental
Los avances de la industria neurotecnológica
Dudas y Certezas en la Carrera por los Datos Mentales
En una verdadera competencia por la conquista del cerebro humano, diversas empresas transnacionales se esmeran por desarrollar tecnologías de lectura de datos mentales, entre las que se cuentan los gigantes tecnológicos. ¿Qué tan factible de materializarse son estos proyectos?
Por Luis Ramírez & Moisés Sánchez. 18 de Julio 2021
Cuando la ex vicepresidenta del equipo Building 8 de Facebook, Regina Dugan, presentó la última idea de la compañía al público en la conferencia F8, realizada en abril del 2017, aún no distaba de ser tan solo eso, una idea: la de permitir a los consumidores escribir directamente desde su cerebro.
El objetivo de esta nueva tecnología sería tomar los pensamientos conscientes de los consumidores y mostrarlos directamente en una pantalla, como la de un smartphone, sin tener que narrarlos a Siri.
Para hacerlo, los consumidores tendrían acceso a un dispositivo no implantado que se conectase a su teléfono.
Un “mouse” cerebral
“¿Cómo saco toda la información de mi cerebro hacia el mundo? ¿Qué ocurriría si pudiéramos escribir directamente desde nuestros cerebros?”
Para responder estas interrogantes, en aquella conferencia Dugan ilustraba esta posibilidad con la imagen de un “brain mouse” (“ratón cerebral”) que podría enviar mensajes de texto a un amigo sin usar el teléfono, o correos electrónicos “sin ausentarnos de la fiesta” y contando con la velocidad y flexibilidad de voz, pero con la privacidad del texto escrito.
En palabras sencillas, instó a la audiencia a imaginar una especie de mecanografía o “tipeo” de mensajes sin usar las manos.
Tres años después, la posibilidad de materializar esta idea se planteaba cada vez más real.
El 30 de marzo de 2020, Facebook anunció que un grupo de investigadores que patrocinan en la Universidad de California (UCSF) había desarrollado con éxito un algoritmo de conversión de mensajes de texto que puede decodificar datos del cerebro con tasas de error mínimas.
Sin embargo, poco más de un año después, el escenario ha comenzado a cambiar.
¿Facebook se retira de la carrera?
En aquella presentación de 2017, Dugan había especificado que el sistema de decodificación del cerebro que estaban desarrollando se centraría exclusivamente en la transcripción de palabras intencionales y no en pensamientos al azar.
La apuesta consistía en que este software controlado por la mente sería tan innovador como lo fue en su momento el mouse para la computadora, la interfaz gráfica de usuario o la pantalla deslizante.
Sin embargo, a cuatro años de este anuncio, Facebook ha decidido archivar el proyecto, argumentando que la lectura del cerebro por parte de los consumidores aún está muy lejos de concretarse.
En una entrada de su blog, Facebook señaló recientemente que abandona esta investigación y que en su lugar se centrará en un controlador experimental de realidad virtual para la muñeca, el que podría leer las señales musculares del brazo.
En esta declaración, la compañía afirmó que ”aunque seguimos creyendo en el potencial a largo plazo de las tecnologías ópticas (de interfaz cerebro-computador] montadas en la cabeza, hemos decidido centrar nuestros esfuerzos inmediatos en un enfoque de interfaz neuronal diferente que tiene un camino más cercano al mercado”.
¿En qué posición deja esta declaración al resto de las empresas que se encuentran actualmente desarrollando interfaces de cerebro-computadora?
Avatares digitales
El desarrollo de estas tecnologías, denominadas interfaz cerebro-computadora, ICC (BCI por sus iniciales en inglés, Brain Computer Interface) está siendo llevado a cabo por todas las compañías dominadoras del campo de la tecnología ligadas al desarrollo de internet en las últimas décadas.
Actualmente, Microsoft y Neuralink también se encuentran en fases avanzadas en sus proyectos de experimentación de tecnologías de ICC.
Una de ellas fue dada a conocer por el creador de Microsoft Internet Explorer, Thomas Reardon: “Digital Avatar” de CTRL-Labs, consistente en un brazalete que se conecta mediante un cable a una computadora con un avatar digital.
Debido a que el interior del brazalete está forrado con chips que pueden detectar las neuronas eléctricas del cuerpo, cuando una persona que usa el brazalete mueve su brazo, los impulsos eléctricos viajan por el cable y se traducen en la computadora.
Como resultado, el avatar digital en la pantalla puede reflejar el movimiento de la persona que usa el brazalete.
CTRL-labs tiene como objetivo continuar desarrollando esta tecnología para que el brazalete no solo detecte la actividad neuronal que produce el movimiento, sino que el brazalete consiga detectar e interpretar cuando una persona simplemente está pensando en un movimiento específico.
El avatar en la pantalla se movería de acuerdo con los pensamientos de la persona de una manera específica deseada, a pesar de que la persona en realidad no se movería.
En 2019, Facebook adquirió CTRL-Labs, proporcionándoles entre $500 millones y $1 mil millones de dólares para continuar desarrollando el avatar digital, según personas familiarizadas con el acuerdo.
Los links neuronales de Elon Musk
Neuralink, de Elon Musk, es una empresa centrada en la creación de ICC con el objetivo de mejorar la mente de los seres humanos con inteligencia artificial (IA).
La compañía ya ha desarrollado un robot neuroquirúrgico que puede insertar electrodos en el cerebro con extrema precisión y sin dañar la vasculatura.
Además, Neuralink ha creado un chip implantable de 4×5 mm. con electrodos que tiene como objetivo «leer» y «escribir» datos cerebrales. En otras palabras, el chip teóricamente podría recopilar y decodificar datos cerebrales y al mismo tiempo estimular el cerebro de formas específicas para controlar el comportamiento.
En febrero de 2020, Musk declaró que Neuralink planea probar pronto su tecnología implantando cuatro de sus chips en un humano.
A fines de agosto de 2020, Elon Musk presentó un implante funcionando en el cerebro de un cerdo, lo que concitó la atención científica global por la velocidad de este avance, y en el mes de abril de este año publicó un video que muestra a un macaco con un chip implantado controlando un videojuego con su información mental.
Otros proyectos de ICC
La empresa Iota ha desarrollado el «polvo neural«, una tecnología consistente en chips inalámbricos microscópicos implantables del tamaño de un grano de arena, que recopilan datos de áreas específicas del sistema nervioso periférico.
Estos diminutos dispositivos podrían implantarse en el cuerpo con un procedimiento mínimamente invasivo, recopilando una gran cantidad de datos sobre el sistema nervioso de las personas las 24 horas del día, los 7 días de la semana.
Si bien el innovador «polvo neuronal» de Iota podría brindar a los científicos una visión increíble sobre el sistema nervioso humano (lo que podría dar lugar a posibles soluciones terapéuticas para los trastornos neuromusculares, como la esclerosis múltiple), esta tecnología, particularmente cuando se aplica al sistema nervioso central, podría monitorear y manipular externamente la actividad del cerebro de las personas.
Kernel, una startup de neurociencia fundada y dirigida por Bryan Johnson, lanzó el 7 de mayo de 2020 una nueva tecnología llamada: “Neurociencia como servicio (NaaS)” para proporcionar capacidades de registro cerebral no invasivo bajo demanda para organizaciones de investigación científica.
NaaS consta de una plataforma y un auricular que pesa menos de 1.5 Kg y está cubierto en 48 módulos. El objetivo de Kernel es proporcionar un buen software que no necesite conectarse a equipos pesados en entornos de laboratorio. Esperan que los investigadores puedan realizar experimentos en entornos más naturales, aprendiendo así sobre el cerebro en condiciones de la vida real en lugar de controlar los entornos de laboratorio.
Liderada por su CEO Matt Angle, Paradromics está desarrollando un chip que se insertaría en la corteza y transmitirá datos bidireccionales.
En otras palabras, Paradromics tiene como objetivo decodificar los impulsos eléctricos de las neuronas e interrumpirlos, «leyendo» y «escribiendo» datos cerebrales.
El futuro de la industria
Estos desarrollos de tecnologías de lectura de datos mentales continúan en desarrollo, a pesar de la reciente renuncia de Facebook. Aunque ya han habido pronunciamientos de estas compañías en los que han señalado que seguirán con sus investigaciones, el escenario pareciera haber cambiado drásticamente.
La carrera por la conquista del cerebro continúa, pero ahora acompañada por signos de interrogación.
