Odio, Cólera, indignación, en tiempos de I.A.

Odio, Cólera, indignación, en tiempos de I.A.

Eduardo Médici. ¨Sin titulo¨. Fotografìa intervenida

Eduardo Médici. ¨Sin titulo¨. Fotografìa intervenida

Maria Bernadette Soares de Sant´AnaPitteri – EBP-AMP

La Inteligencia Artificial (I.A.) ocupa cada vez más a los humanos; tecnología y ciencia reciben sumas voluminosas para investigación e implementación. ¿Hay posibilidad de modelar una pasión del alma como el odio, o afectos como cólera e indignación?1 China exporta softwares para espiar ciudadanos,2 armas de destrucción masiva son programadas para alcanzar objetivos a grandes distancias, drones que no fueron creados para enviar pizza, finalmente.

La fascinación temerosa ejercida por la I.A. se demuestra en el furor con que fue recibida la primera película de la trilogía Matrix al final del siglo pasado.3 En la realidad virtual generada por Matrix (que desarrolla sus propios algoritmos), humanos deambulan en un mundo de sueños y, creyendo en la realidad de lo vivido, adormecidos, generan la energía necesaria para el funcionamiento de la máquina.

La ficción puede asustar, pero lo que hoy llamamos “Inteligencia Artificial” es una rama reciente de la computación, nacida oficialmente en 1956, que propone modelos y teorías para simular la capacidad cognitiva humana y crear sistemas computacionales basados en esos modelos.4

Partiendo de una definición simple, pero de implementación sofisticada, la I.A. exige la participación de especialistas de diferentes áreas: ingenieros de computación y de softwares, cientistas de computación, programadores, ingenieros cibernéticos, psicólogos comportamentales, neurólogos, neurocientistas, matemáticos, filósofos.

Alan Turing (1912/1954), “brillante matemático y descifrador de códigos”,5 se recibió a los 19 años en Cambridge y a los 24 describió un sistema lógico en un ensayo lógico-formal destinado a realizar operaciones computacionales (1936).6 En su artículo muestra la manipulación de símbolos en un sistema con reglas propias, la “Maquina Universal de Turing”, máquina virtual, dispositivo teórico bastante simple y, en lenguaje matemático, elegante. Se trata del algoritmo descripto años antes de la aparición de los computadores digitales; es un modelo abstracto de computadora que se restringe solamente a los aspectos lógicos de su funcionamiento (memorias, estados y transiciones) y no a la implementación física, cuestión para la tecnología. Es decir, es un software considerado universal para la programación de los computadores y que exige un hardware para ser implementado.  Esta máquina se tornó el prototipo para el desarrollo de los computadores actuales, usando el sistema matemático binario (0/1) más allá de conectivos lógicos, que ya indican en su nacimiento que sistemas poderosos podían ser construidos. En el artículo citado, el autor prevé esa posibilidad.

En “Computación e Inteligencia”,7 Turing plantea la pregunta: ¿las máquinas pueden pensar? Allí, defiende la idea de que sí, que un computador piensa y es inteligente. Para fundamentar su aserción propone el “Juego de la Imitación”, en el cual los participantes no se ven unos a otros, solo se comunican por escrito. La propuesta es que uno de los participantes sea un computador bien programado para conversar como si fuera un ser humano, y en caso de que consiga engañar a los demás se concluye que piensa. En realidad, el software muestra el hecho de que el propio Turing cree que la mente funciona exactamente como el algoritmo propuesto por él.

Si las computadoras son capaces de pensar, la máxima cartesiana “pienso, luego soy” debe trasladarse también a los softwares, y si el pensamiento se da a partir de la presencia/ausencia de significantes, no es absurdo postular que, como a Turing le gustaría, la mente humana funciona como una máquina virtual de base binaria.

Las grandes fábricas automotrices descubrieron rápidamente el nicho y modelaron todo el proceso de montaje, que en realidad empezó con Ford antes de la era digital. Las máquinas son programadas para realizar el trabajo humano repetitivo, pesado o peligroso.  Nada mal. Sin embargo, los avances algoritmos permiten a la I.A. crecer de manera temeraria, lo que en sí no sería un problema, al contrario: una casa automatizada no es un sueño lejano y es atrayente.

Pero la I.A. puede y va mucho más allá de los viajes espaciales: investigadores desarrollan softwares, como el de la gigante ZTE, creada para control social y exportación democrática.  Por ejemplo, “regímenes autoritarios, principalmente en África y en Asia, son sus mayores clientes”,8 aunque Venezuela también. Parece entonces que nuestra civilización enfrenta una crisis reaccionaria peligrosa.

En el artículo de 1950, Turing intenta resolver diferentes cuestiones planteadas por oponentes a la idea de que una computadora seria inteligente. Una de las objeciones se refiere al hecho de que una máquina, por no tener sensaciones, no manifestaría sentimientos. Para Turing la respuesta es simple: basta con que los sentimientos sean modelados o programados convenientemente. En la actual I.A, las maquinas cuentan con sensores poderosos, capaces de enviar informaciones y autoreprogramarse.

La cuestión se desplaza: ¿cuál es la posibilidad de modelar una pasión del alma como el odio, o afectos como la cólera o la indignación? Afectos que, parece, no ofrecerían grandes problemas a los investigadores, teniendo en cuenta que engañan. Pero ¿en cuanto a la angustia, único afecto que no engaña y cuyo objeto es el a? ¿Sería posible modelar el a, objeto no mediado por el simbólico? ¿Habría posibilidad de modelar una pasión del alma como el odio? Problema técnico, aparentemente.  En el texto, “Odio estructurante”, Rômulo Ferreira da Silva pone al odio como símbolo de lo real, mudo, que “exige la destrucción del Otro en un intento de hacer que éste jamás haya existido”.9

Los softwares son creados y comercializados por humanos preocupados con el control y la ganancia. Seres humanos que tienen la pasión del odio y los afectos de la cólera y de la indignación, y al crear algoritmos los transfieren a la máquina. La cuestión se torna ética, y recordando el Lacan del Seminario 7, el deseo “adormecido por los moralistas, domesticado por educadores, traicionado por las academias, se refugió, se reprimió muy sencillamente, en la pasión más sutil y también en la más ciega… la pasión del saber” y, para aquellos que están más avanzados en la ciencia, “no deja de acompañarse de la viva conciencia de que están al pie del muro del odio”.10

Impasse en la civilización.

Traducción: Ana Beatriz Zimmenmann
Revisión: Silvina Rojas

 

Notas:
1 https://ix.enapol.org/
2 Estado de São Paulo, 10/2/2019, https://www.estadao.com.br/ultimas
3 Pero interesante en términos filosóficos y de I.A. del que fue su continuidad, brillante trabajo de las ahora hermanas Wachouski. En la época de Matrix (1999) eran los hermanos Wachouski, signos de una civilización en constante mutación.
4 Bittencourt, J., Inteligencia Artificial – Herramientas y Teorías Campinas. Instituto de computación Unicam,1996, p. 2.
5 Levin, J., Un loco sueña la máquina universal. , São Paulo, Compañía de las Letras, 2009.
6 “On Computable Numbers, with an Application to the Entscheidungsproblem”.
7 Turing, A., “Computación e Inteligencia” (1936). In: Cerebros Máquinas y Consciencia. Teixeira, Org., São Carlos: Ed. UFSCAR,1996.
8 Estado de São Paulo, 10/2/2019, Cuaderno Internacional A14, https://www.estadao.com.br/ultimas
9 https://ix.enapol.org/boletim-oci-1
10 Lacan, J., El Seminario, libro 7, La Ética del Psicoanálisis (1959-1960). Buenos Aires, Paidós,1992, p. 385-386.

No se permiten comentarios.