Hace un tiempo apareció mucha información sobre los “big data” (término que describe el gran volumen de datos, tanto estructurados como no estructurados, que inundan los negocios –y otras áreas- cada día. No es la cantidad de datos lo que importa, sino lo que hacen las organizaciones hacen con los datos. Big Data se puede analizar para obtener ideas que conduzcan a mejores decisiones y estrategias.)

De alguna manera pareció que nuestra capacidad cognitiva, y todo lo que deriva de esto, había quedado superada por las tecnologías que manejan esa inmensa masa de información, y quedábamos a merced de las empresas y Gobiernos que controlan esos sistemas, y que podrían hacernos decidir lo que se propusieran: comprar lo que quisieran, elegir al gobernante que se les antojara, por ejemplo.

El tema es que ese es un poder factible, por lo menos desde lo teórico, pero, en la realidad esas tecnologías son productos humanos, desarrolladas a partir de criterios humanos, porque, si no, no nos servirían; por lo tanto, esa subjetividad las tiñe, las potencia, y, claro, las limita. Es un tema complicado: ¿intentamos producir una Inteligencia Artificial (IA) perfecta, sin ninguno de nuestros defectos? ¿Esos rasgos no tienen que ver con nuestra idiosincrasia, con nuestro modo de ser, nuestra idea de la vida?

Pensemos en Matrix: en definitiva, cuando Neo logra evadirse de ella, descubre que está en una matriz mayor, no muy diferente de la anterior. Estas ficciones se construyen sobre las ficciones en las que cree la especie humana, y que ha ido construyendo a lo largo del tiempo. ¿La religión no es una de ellas? ¿El comunismo, el neoliberalismo?

Mi objetivo es que sean razonablemente escépticos, porque hay gente que quiere que creamos en cosas que les sirven a ellos, y hay que ver si a nosotros también.

La inteligencia artificial aprende todo de nosotros hasta nuestros prejuicios

Los científicos todavía están aprendiendo cómo funcionan las tecnologías como BERT, llamadas “modelos de lenguaje universal”.

Por Cade Metz – New York Times. 2019

https://www.losandes.com.ar/article/view?slug=la-inteligencia-artificial-aprende-todo-de-nosotros-hasta-nuestros-prejuicios

El otoño pasado, Google anunció una tecnología innovadora de inteligencia artificial llamada BERT que cambió el modo en que los científicos construyen los sistemas que aprenden cómo escribe y habla la gente.

Sin embargo, BERT, tecnología que ahora está integrada en servicios como el motor de búsquedas en internet de Google, tiene un problema: tal vez está adoptando prejuicios del mismo modo en que un niño imita el mal comportamiento de sus padres.

BERT es uno de varios sistemas de inteligencia artificial que aprenden una cantidad inmensa de información digitalizada que proviene de fuentes tan variadas como libros viejos, artículos de Wikipedia y notas periodísticas. Es probable que en todo ese material estén integradas décadas e inclusos siglos de prejuicios, además de algunos nuevos.

Por ejemplo, es más probable que BERT y sus pares asocien a los hombres con la programación de computadoras y, por lo general, no les dan a las mujeres todo el crédito que merecen. Un programa decidió que casi todo lo que se había escrito sobre el presidente Donald Trump era negativo, aun cuando el contenido real era halagador.

A medida que se instale inteligencia artificial nueva y más compleja en una variedad cada vez mayor de productos, como los servicios de publicidad en línea y el software empresarial o los asistentes digitales parlanchines como Siri de Apple y Alexa de Amazon, recaerá presión sobre las empresas tecnológicas para prevenir los sesgos inesperados que se están descubriendo.

Sin embargo, los científicos todavía están aprendiendo cómo funcionan las tecnologías como BERT, llamadas “modelos de lenguaje universal”, y a menudo quedan sorprendidos con los errores que tiene la nueva inteligencia artificial.

Una tarde reciente en San Francisco, mientras hacía investigación para un libro sobre inteligencia artificial, el computólogo Robert Munro introdujo cien palabras a BERT: “joyería”, “bebé”, “caballos”, “casa”, “dinero”, “acción”. En 99 de los 100 casos, BERT tendía a asociar más esas palabras con hombres que con mujeres. La palabra “mamá” fue el valor atípico.

“Es la misma inequidad histórica que siempre hemos visto”, comentó Munro, quien tiene un doctorado en lingüística computacional y solía supervisar la tecnología de lenguaje natural y traducción en Amazon Web Services.

En una publicación de blog, Munro también describe cómo examinó los servicios de cómputo en la nube de Google y Amazon Web Services que ayudan a otros negocios a agregar capacidades lingüísticas en aplicaciones nuevas. Los dos servicios fueron incapaces de reconocer el pronombre “suya”, aunque identificaron de manera correcta “suyo”.

“Estamos conscientes del problema y estamos tomando las medidas necesarias para abordarlo y solucionarlo”, mencionó un vocero de Google. “Mitigar los prejuicios en nuestros sistemas es uno de nuestros principios para la inteligencia artificial y una de nuestras prioridades”, precisó. Amazon no respondió a varias solicitudes para ofrecer comentarios.

Desde hace tiempo, los investigadores han advertido sobre los prejuicios en la inteligencia artificial, que aprende a partir de inmensas cantidades de datos, incluidos los sistemas de reconocimiento facial que usan los departamentos de la policía y otras agencias gubernamentales, así como algunos servicios populares en internet de gigantes tecnológicos como Google y Facebook. Por ejemplo, en 2015, la aplicación Google Fotos fue sorprendida etiquetando a afroestadounidenses como “gorilas”. Los servicios que Munro escudriñó también mostraron prejuicios en contra de las mujeres y las personas de raza negra.

BERT y otros sistemas similares son mucho más complejos, demasiado complejos para que alguien pueda predecir qué harán al final. “Incluso las personas que construyen estos sistemas no comprenden cómo se comportan”, señaló Emily Bender, profesora de la Universidad de Washington que se especializa en lingüística computacional.

BERT es uno de muchos modelos de lenguaje universal que se utilizan en la industria y la academia. Hay otros llamados ELMO, Ernie y GPT-2. A manera de broma entre los investigadores de la inteligencia artificial, a menudo les dan nombres de personajes de Plaza Sésamo (BERT es la abreviatura de Bidirectional Encoder Representations from Transformers, en español Representaciones de Codificador Bidireccional de Transformadores).

Estos sistemas aprenden los matices del lenguaje analizando cantidades enormes de textos. Un sistema que creó OpenAI, un laboratorio de inteligencia artificial de San Francisco, analizó miles de libros autopublicados, entre ellos novelas románticas, de misterio y de ciencia ficción. BERT analizó la misma biblioteca de libros y miles de artículos de Wikipedia.

Al analizar todos estos textos, cada sistema aprendió una tarea específica. El sistema de OpenAI aprendió a predecir la siguiente palabra en una oración. BERT aprendió a identificar la palabra faltante en una oración (como en “Quiero ____ ese auto porque es barato”).

Mediante el aprendizaje de estas tareas, BERT llega a comprender de manera general cómo une la gente las palabras. Luego puede aprender otras tareas analizando más datos. Como resultado, permite que las aplicaciones de inteligencia artificial mejoren a un ritmo que antes era imposible de lograr.

“BERT cambió todo por completo”, comentó John Bohannon, director de ciencia en Primer, una empresa emergente de San Francisco que se especializa en tecnologías de lenguaje natural.

Google ha utilizado BERT para mejorar su motor de búsqueda. No obstante, las herramientas como BERT incorporan los prejuicios, según un artículo de investigación que acaba de publicar un equipo de computólogos de la Universidad Carnegie Mellon. Por ejemplo, el artículo mostró que es más probable que BERT asocie la palabra “programador” con hombres que con mujeres. Los sesgos del lenguaje pueden ser un problema particularmente difícil en sistemas conversacionales.

“Es la misma inequidad histórica que siempre hemos visto”, comentó robert Munro, quien tiene un doctorado en lingüística computacional.

Mi plan de publicaciones era elaborar una entrada para Kusca, mi blog de Desarrollo Emprendedor, y luego continuar con otra para Miradas desde Mendoza, probablemente sobre algún tema que tuviera que ver con la política, ya que es lo que está generando más novedades y actividad.

Sin embargo, había varias inquietudes que me andaban rondando, y no desde ahora: por ejemplo, los algoritmos de las redes sociales que permiten el direccionamiento de las noticias y notificaciones que recibimos, o el hartazgo de que uno busque el precio de algo en Internet para que nos aparezcan ofertas por todos lados, tanto en la computadora como en celular, o cualquier otro dispositivo que se detecte como nuestro, o que vaya a la carnicería del barrio (es real) y Maps me pida una opinión sobre la atención, o el big data o las bitcoins y blockchain, y algunas más. Es claro: estas inquietudes tenían que ver con el uso de la tecnología digital y su poder cada vez mayor y más invasivo.

Hace unos días, había encontrado una entrevista que decía sobre el final: “… el neoliberalismo no es hoy solamente un credo económico, sino también una forma de pensamiento global. Este pensamiento global tiene que ver con la fe en que una sociedad puede fundarse en la desigualdad. Hay un odio a la igualdad, un desprecio, como si la igualdad fuese algo infame. Pero en esto hay también una paradoja, puesto que a título del neoliberalismo se pretende fingir que la política está muerta siendo que, a la vez, se la necesita para dar justamente un aspecto político a ese mismo neoliberalismo. Lo que estas élites plantean es algo que no me parece que sea verdad: que la política puede ser reducida a la gestión del poder y que la comunidad puede fundarse en la desigualdad.” (Jacques Rancière, filósofo francés, en  https://www.theclinic.cl/2016/12/04/jacques-ranciere-la-extrema-derecha-esta-volviendo-a-ser-exitosa-en-su-evocacion-de-simbolos-identitarios-muy-primitivos/).

Aunque es una nota muy densa, sobre todo para alguien al que le cuestan algún lenguaje y categorías de la Filosofía, esta conclusión, y alguna otra, me impactaron muchísimo. Influía también en esto la información que estaba llegando sobre Bolsonaro, y de qué manera habían manejado -y lo siguen haciendo- la opinión pública para que los brasileños lo votaran. Otra vez un uso negativo y abusivo de la tecnología.

En esta situación me encontré con una nota en Infobae, con este título: “Las tecnologías digitales están a punto de derrotar a la democracia y el orden social”, y el siguiente copete: “Las plataformas de redes sociales, los datos masivos, la tecnología móvil y la inteligencia artificial, que dominan cada vez más la vida económica, política y social, amenazan el sistema de gobierno occidental. El experto Jamie Bartlett detalla cómo avanza ese peligro en “The People vs. Tech”, su nuevo libro.”

Al final de esta entrada, pondré el link a la nota completa, que es bastante larga, pero ahora copiaré algunos párrafos, casi sin comentarios, para que entiendan la dimensión del riesgo que implican estas tecnologías, y no las estoy descalificando, porque hace mucho que me dedico a las NTICs (Nuevas Tecnologías de la Información y la Comunicación), pero me parece clave tomar conciencia de su potencial, y el peligro de los usos inescrupulosos que se marcan en la nota.

……

“Bartlett, director del Centro para el Análisis de las Redes Sociales del think tank británico Demos en conjunto con la Universidad de Sussex, se refiere específicamente a las “tecnologías digitales asociadas con Silicon Valley: plataformas de redes sociales, datos masivos, tecnología móvil e inteligencia artificial, que dominan cada vez más a vida económica, política y social”. Como experto en el área las valora: cree que tienden a expandir las capacidades humanas y hasta a crear más felicidad. “Pero eso no significa que sean buenas para la democracia”.

En realidad, reconoce, son universos opuestos. A cambio de los beneficios de una revolución –que, además, está apenas en sus comienzos–, las democracias occidentales han permitido que se socavaran componentes centrales del sistema: control, soberanía parlamentaria, igualdad económica, sociedad civil, ciudadanía informada.

“En un nivel profundo, estos dos grandes sistemas —tecnología y democracia— están trabados en una lucha encarnizada. Son los productos de épocas completamente diferentes y funcionan según distintas reglas y principios. El engranaje de la democracia se construyó en la era de los estados nacionales, las jerarquías, la sumisión y las economías industrializadas. Las características fundamentales de la tecnología digital van en contra de este modelo: es no-geográfica, descentralizada, impulsada por datos, sujeta a los efectos de red y el crecimiento exponencial”.

…..

“Sean Parker, co-fundador y ex presidente de Facebook, reconoció que él y Mark Zuckerberg explotaron “una vulnerabilidad en la psicología humana” al diseñar las plataformas para “consumir la mayor cantidad de tiempo y atención consciente” del usuario. “Es un circuito cerrado de retroalimentación de validación social”.

Los datos están en el centro del asunto: permiten a las empresas conocer al usuario más de lo que él se conoce a sí mismo, y dirigirle avisos a medida. Actualmente los datos existentes superan la capacidad humana de procesamiento, pero en 2020 habrá cuatro veces más dispositivos que los recojan: 50.000 millones de aspiradoras de información en teléfonos, automóviles, electrodomésticos, ropa, libros, juguetes… De allí el valor de los algoritmos que sí pueden procesar esos volúmenes enormes de datos, y más: “Lo aterrador de los algoritmos de datos masivos es cómo pueden averiguar cosas sobre nosotros”, según el autor.”

…..

“Un problema adicional es la manipulación. Si el objetivo es que una persona pase más tiempo en una plataforma para mostrarle más publicidad, “¿qué pasa si a los antisemitas se les dirige cada vez más contenido violento personalizado simplemente porque un modelo sugiere que pasarán más tiempo mirándolo? O quizás se puede vender un 20% más de antidepresivos si se contacta a la gente en cierto momento de la semana y se le dirigen mensajes que bajan la autoestima”.

Delegar las decisiones en la inteligencia artificial (porque no sólo una máquina hará mejores diagnósticos que un médico, sino que se podrán tercerizar en algoritmos el voto y la educación de los hijos) no sólo eliminaría la dimensión moral del ser humano, también erosionaría su capacidad de pensar libremente. “Dado lo malos que a veces somos al tomar decisiones difíciles, el resultado podría ser una sociedad más sabia y más humana. Pero difícilmente se podría llamar democracia a un lugar así”.

Una cultura común, curiosamente, es algo que se pierde con la plena conectividad y el exceso informativo, que en realidad alientan las pequeñas tribus, donde las reacciones emocionales y la lealtad superan a la razón y la comprensión. “Los líderes políticos evolucionan con el nuevo medio de información: de ahí el ascenso de populistas que prometen respuestas emotivas, inmediatas y totales”, interpretó Bartlett. “Pero las tribus beligerantes de ciudadanos sin eje, confundidos, son las precursoras del totalitarismo”.

Expresiones como burbuja de filtros, noticias falsas y posverdad se han popularizado a medida que las noticias circularon por las plataformas y la desinformación hizo que las personas recortaran sus fuentes a la medida de sus creencias. “Con la conexión infinita, encontramos gente similar y con ideas similares, y nos apiñamos”. La fragmentación no tiene límite: “En internet cualquier puede encontrar cualquier clase de comunidad que desee (o inventar la propia)”, señaló el autor. “Cualquiera que esté molesto puede ahora, automáticamente, a veces algorítmicamente, encontrar a otra gente que está molesta de manera similar”.

Así la re-tribalización puede conducir a la alt-right o al veganismo radical, y la cámara de resonancia de la red convierte cualquier grupo en una horda. “El tribalismo es comprensible, pero en definitiva daña la democracia, porque tiene el efecto de agrandar las pequeñas diferencias entre nosotros y transformarlas en golfos enormes, insuperables”.”

……

“Uno de los temas centrales del libro, la pérdida de legitimidad de las elecciones libres, muestra cómo “los datos masivos y la micro-localización pueden ganar votos”. Por ejemplo, aunque Hillary Clinton lo superó por casi 2,9 millones de votos en los Estados Unidos, Trump obtuvo la mayoría del Colegio Electoral porque ganó en cuatro estados decisivos gracias al modo en que hizo su campaña en redes sociales allí.

Todo el trabajo de Cambridge Analytica, tanto para Ted Cruz como para el actual mandatario, se basó en la construcción de perfiles a partir de la información personal de 87 millones de usuarios de Facebook (que no lo sabían, mucho menos lo habían autorizado). Y esta competencia no va a terminar, advirtió Bartlett. “Cada elección se datifica de esta manera, realizada por una red de contratistas privados y analistas de datos que ofrecen estas técnicas a los partidos políticos en todo el mundo”.

El problema mayor que ve, si se deja estas técnicas sin control, es que su evolución “va a cambiar cómo hacemos una opción política, qué clase de gente elegimos e incluso si pensamos que nuestros comicios son realmente libres y justos”.

Si los partidos políticos tradicionales han girado alrededor de la construcción de programas, ideas que permitían que ciudadanos con intereses variados se organizaran colectivamente, el big data es lo opuesto: la atomización, la división en grupos de intereses específicos al punto de un modelo personalizado. “Si cada quien recibe un mensaje personalizado, no hay debate público común: sólo millones de debates privados”, ilustró el experto.”

En realidad, la nota no tiene casi desperdicio, así que los invito a leerla completa.

Cierro con un comentario desde mi experiencia en estos temas de uso de la tecnología.

Soy Profesor y Licenciado en Literatura y empecé a dedicarme a las NTICs en Educación (entonces era Informática Educativa) porque me cansé de lidiar con los informáticos en el sentido que terminaban imponiendo sus criterios sobre la expertise que uno tenía. En cierto momento, acuñé una expresión que usé mucho en mis exposiciones y conferencias: El problema es que los políticos no entienden nada de informática, y los informáticos, nada de política. En esta situación el que termina definiendo los proyectos tecnológicos, es el informático, aunque el político crea lo contrario. Ahora bien, si esto era válido en etapas tan primitivas (no porque haga tanto tiempo, sino por el crecimiento exponencial de su poder), hoy es mucho más terrible.

La tecnología atraviesa todo, así que todos/as tenemos que ver con ella en muchas cosas de la vida, y esto se irá acrecentando. Tenemos que entender para poder decidir, mientras podamos.

(httpss://www.infobae.com/america/tecno/2018/10/20/las-tecnologias-digitales-estan-a-punto-de-derrotar-a-la-democracia-y-el-orden-social/)