Psicoanálisis y Tecno-ciencia. De seres hablantes a enajenados algorítmicos

 

Javier Peteiro Cartelle

“We seek to move in the step to couple human and machine intelligence in a complimentary symbiosis”
Kapur A., Kapur S, Maes, P. AlterEgo: A personalized wearable silent speech interface. IUI 2018, March 7-11, 2018. Tokyo, Japan.
 
Los ordenadores personales nos facilitan la vida. Tienen ya diversidad de presentaciones; de mesa, con “torre” o sin ella, con pantallas de más o menos pulgadas… En algún sitio de su interior están esos dispositivos microelectrónicos que permiten hacer cálculos, escribir textos, ver películas, escuchar música, guardar fotos y libros, etc. Un “móvil” es ya un ordenador que, a la vez, permite telefonear del modo clásico.

Además, cualquier dispositivo doméstico puede llevar un microprocesador que dirija su acción mecánica, desde el encendido de una lámpara hasta un programa de lavado o de cocina.

Pero requieren una interacción con ellos. Ocurre que funcionan de forma algorítmica. Todas las funciones de un ordenador se dan mediante una concatenación de estados de sus sistemas básicos que funcionan o no en un momento dado muy breve; dicho de otro modo, se trata de ceros y unos, de un lenguaje binario. Se habla de “bits”. Basta con ocho de ellos (byte) para codificar cada carácter, número decimal o signo de puntuación del lenguaje convencional. Con unos cuantos miles de bytes se gobernaron las sondas Voyager. Pero eso no es suficiente para que podamos usar un videojuego o hablar por Skype; tampoco basta para almacenar los miles de fotos que podemos hacer.

Necesitamos muchos bytes, miles (kB), millones, billones, más y más cada vez. Esos múltiplos en potencias de mil se llaman, como sabemos todos, “mega”, “giga”, “tera”, “peta”…
La capacidad de cálculo de un ordenador se traduce, en la práctica, en lo que nos permite hacer en la vida cotidiana. Pero el ordenador, aunque no lo parezca, es tonto, es una máquina. La inteligencia artificial (IA) supone a día de hoy una extrapolación poco fundada. Necesita saber qué queremos que haga. Hace años era un tanto complicado; se necesitaba un lenguaje que pasó de ser el “lenguaje máquina” a formas más intuitivas conocidas como compiladores, ensambladores. Proliferaron los cursos de algo que ahora ya casi nadie recuerda, Fortran IV, Basic, C, Pascal,  etc., etc. Sólo los programadores profesionales preparan sus “software” con lenguajes de este tipo pero evolucionados.

Ahora lo tenemos fácil; basta con un teclado para decirle a la máquina lo que queremos con palabras cotidianas y ella lo hará, porque su “software” ya está capacitado para traducir esa secuencia de caracteres en el teclado al lenguaje máquina y ofrecernos lo que deseamos: un texto  o gráfico en pantalla o impresora, fotos, películas, juegos, la imagen de otra persona con la que hablamos a distancia, etc.

No sólo eso. Los microprocesadores gobiernan parcial o totalmente el funcionamiento de cualquier máquina, desde lavadoras hasta aviones, misiles, sondas espaciales, instrumentos hospitalarios…

Pero no vamos a andar con teclados para todo. Sería deseable que bastara con la voz. Ya hay sistemas de reconocimiento; “Siri”, por ejemplo, es popular para algunos (o muchos) usuarios de iPhone. Pero tampoco es algo discreto; hay que decirle a Siri en voz alta lo que queremos y no siempre nos entiende, pudiendo ocurrir además que otros nos escuchen. También sería interesante calcular el precio de la compra “preguntando” a cada producto lo que cuesta y escuchando el precio total de los productos que pensamos comprar. Y, lo que parece más importante, hablar con quien nos interese, en medio de una reunión, por ejemplo, sin que nadie de los asistentes a ella se dé cuenta.

Nuestra privacidad vale mucho. Se trata de hablar en silencio. Y, aunque parezca mentira, se puede. Se trata simplemente de verbalizar mentalmente lo que queremos decir, ya que nuestro cerebro pone en marcha de modo imperceptible una actividad neuromuscular que puede ser captada por sensores microelectrónicos en la cara y emitida como “input” a un ordenador (tomando este término en general, sea para referirse a uno convencional, un teléfono o un sistema constituido por microprocesadores asociados a productos o electrodomésticos). Podremos conversar con otros y, a la vez, sin que ellos lo perciban, “hablar” con los estantes del supermercado, con un amigo, o preguntar cuál es el producto de 624,5 por 3226748.  Seremos “multitasking”, aprovecharemos estupendamente el tiempo, siendo más productivos, algo que, a fin de cuentas, es lo que nuestro destino mercantil nos dicta.

Pues bien, ese milagro técnico ya ha cobrado forma, aunque sea como prototipo. Se trata del “AlterEgo”, desarrollado por lumbreras que trabajan nada menos que en el MIT. Una especie de casco con electrodos colocados en la cara basta para hablar en silencio con ordenadores, a la vez que unos sensores aplicados a la cabeza nos traducirán en palabras audibles sólo por nosotros lo que los ordenadores responden. Maravilla de maravillas.

Surge, sin embargo, una pregunta bastante elemental. ¿Nos estamos volviendo todos locos?

Nadie sensato discute la bondad de sistemas de apoyo para personas discapacitadas, como los que implican la traducción de señales corticales en órdenes para escribir en una pantalla de ordenador o para mover un brazo robótico. Nadie sensato discute tampoco el potencial y enorme beneficio que pueden suponer una retina artificial o un exoesqueleto realista. Pero AlterEgo es otra cosa. Es sencillamente una perversión técnica que contribuye a hacernos más pseudo-comunicados, más aislados, hasta acabar enajenándonos.

Hay algo especialmente relevante en este tipo de perversión técnica y es que toca algo tan humano como el lenguaje. Con sistemas del tipo AlterEgo pasamos de ser hablantes a ser generadores de inputs, servidores de máquinas.

El lenguaje, eso que nos hace humanos, ya se ha resentido y mucho del abuso de las técnicas que dicen favorecer la comunicación. Cada vez el vocabulario es más reducido, cada día hablamos menos con personas reales y nos sumergimos en la idiotez virtual. AlterEgo lleva eso a su consecuencia lógica y, a la vez, terrible: “hablando” en silencio llegaremos a dejar de hablar.

Pero hay además un elemento añadido que hace inquietante la perspectiva de la tecno-ciencia de punta (el MIT no acoge a tontos). Se trata de la propia IA. Se ha alertado de que puede llegar a superar la inteligencia humana (algo comprensible en el marco reduccionista de un cognitivismo naïf y teniendo en cuenta la estupidez generalizada). Pero el riesgo no es ese ya que, al menos a día de hoy, por muchos robots y redes neuronales que se construyan, estamos ante una IA algorítmica que nada tiene que ver con el funcionamiento de nuestro cerebro y mucho menos con la emergencia de una subjetividad (el problema de la consciencia en sentido fuerte).

El riesgo reside en que tratemos de “algoritmizar” nuestra vida, algo que ha de recordarse que ya ocurre, sin ir más lejos, en los hospitales, por ejemplo, con sus protocolos, algoritmos y normas ISO.

En cierto modo, lo algorítmico, la IA tal y como es concebible, adopta ya una posición superyoica a tal punto que se genera culpa si no se sigue la norma, siendo ésta un vulgar algoritmo. El modelo a internalizar no es un padre, sino una máquina parlante.

“Algoritmizar” la vida supone sencillamente la enajenación mental en beneficio de quienes controlen los propios algoritmos. Las filtraciones de Facebook conocidas recientemente son una imprudencia infantiloide en comparación con lo que puede sucedernos si adoramos una IA idiota y nos convertimos en siervos de máquinas.

De una servidumbre voluntaria o involuntaria a otros puede alguien liberarse; será mucho más difícil hacerlo cuando esa servidumbre es idealizada y placentera, creyendo que tenemos el control de lo que nos controla, la máquina.

Anuncios