El equipo humano contra el equipo IA

Para hacer que la inteligencia artificial cumpla con su promesa, debemos entender y replantear los valores implícitos en la tecnología.
Las personas y las organizaciones están navegando por un nuevo terreno, caracterizado por tecnologías autónomas, mercados fuera de control y medios armados. Para muchos, se siente como si estos nuevos fenómenos amenazaran con interrumpir nuestras empresas, pero también paralizar nuestra capacidad de pensar de manera constructiva, conectarnos de manera significativa y actuar con determinación. Se siente como si la civilización en sí estuviera al borde, y que carezcamos de la fuerza de voluntad colectiva y la coordinación necesarias para abordar temas de vital importancia para la supervivencia misma de nuestra especie. No tiene que ser así. Algunos se preguntan cómo hemos llegado hasta aquí, como si se tratara de un deslizamiento aleatorio hacia la incoherencia colectiva y la falta de poder. No lo es. Existe una razón para nuestra situación actual: una agenda anti humana integrada en nuestra tecnología, nuestros mercados y nuestras principales instituciones culturales, desde la educación y la religión hasta la educación cívica y los medios de comunicación. Es esta agenda la que ha convertido en silencio a estas instituciones, incluidos, probablemente, elementos de su propia empresa, de las fuerzas para la conexión y expresión humanas en fuerzas de aislamiento y represión. La humanidad es vista como una responsabilidad en lugar de una fuerza. Al desenterrar esta agenda, nos hacemos capaces de trascender sus efectos paralizantes, reconectarnos unos con otros, y rehacer la sociedad hacia los fines humanos en lugar del fin de los humanos. Uno de los mejores lugares para comenzar es en el uso de inteligencia artificial. Para recuperar la civilización en un mundo infundido por la IA, debemos comprender el conflicto oculto entre los que promueven la inteligencia artificial (Equipo AI) y los que reafirmarían la agenda humana: el Equipo Humano.

La agenda de la IA.
Damos forma a nuestras tecnologías en el momento de la concepción, pero a partir de ese momento en adelante, nos forman. Los seres humanos diseñamos el teléfono, pero a partir de entonces, el teléfono influyó en cómo nos comunicábamos, realizábamos negocios y concebíamos el mundo. También inventamos el automóvil, pero luego reconstruimos nuestras ciudades alrededor de los viajes automotores y nuestra geopolítica alrededor de los combustibles fósiles. La inteligencia artificial añade otro giro. Después de lanzar tecnologías relacionadas con la IA y el aprendizaje automático, no solo nos moldean a nosotros, sino que también comienzan a moldearse a sí mismos. Les damos un objetivo inicial, luego les damos todos los datos que necesitan para descubrir cómo lograrlo. Desde ese momento en adelante, los seres humanos ya no entendemos completamente cómo un programa de AI puede estar procesando información o modificando sus tácticas. La IA no es lo suficientemente consciente como para decirnos. Es solo intentarlo todo y aferrarse a lo que funciona para el objetivo inicial, independientemente de sus otras consecuencias. En algunas plataformas de redes sociales, por ejemplo, los algoritmos diseñados para aumentar el tráfico pueden hacerlo mostrando a los usuarios imágenes de sus ex amantes divirtiéndose. No, la gente no quiere ver esas imágenes. Pero, a través de prueba y error, los algoritmos han descubierto que mostrarnos imágenes de nuestras experiencias aumenta nuestro compromiso. Nos sentimos atraídos a hacer clic en esas fotos y ver en qué andan nuestros ex novios, y es más probable que lo hagamos si estamos celosos de haber encontrado un nuevo socio. Los algoritmos no saben por qué esto funciona, y no les importa. Solo están tratando de maximizar la métrica que les hayamos indicado. Es por eso que los comandos originales que les damos son tan importantes. Cualquiera que sea el valor que incorporemos (eficiencia, crecimiento, seguridad, cumplimiento) serán los valores que la AI logra, por cualquier medio que funcione. AI utilizará técnicas que nadie, ni siquiera una aplicación de AI en sí misma, comprende. Y será perfeccionar esas técnicas para generar mejores resultados y luego usar esos resultados para iterar más.
De esto se trata todo el alboroto sobre el "aprendizaje automático". Las cosas que queremos que hagan nuestros robots, como conducir en el tráfico, traducir idiomas o colaborar con humanos, son increíblemente complejas. No podemos idear un conjunto de instrucciones explícitas que cubran todas las situaciones posibles. Lo que las computadoras carecen de lógica de improvisación, deben compensar con el poder computacional masivo. Así que los científicos informáticos alimentan los algoritmos de resmas (una unidad de medida tradicional para contar hojas de papel) y resmas de datos, y les permiten reconocer patrones y sacar conclusiones por sí mismos. Obtienen estos datos al monitorear a los trabajadores humanos que hacen su trabajo. La aplicación de registros en los teléfonos de los conductores de cabina también sirve como dispositivo de grabación, y detalla la forma en que manejan las distintas situaciones de la carretera. Los algoritmos luego analizan los datos de miles de conductores para escribir sus propios programas de vehículos autónomos. Los sistemas de tareas en línea pagan a la gente centavos por tarea para hacer cosas que las computadoras aún no pueden hacer. Las respuestas se introducen directamente en las rutinas de aprendizaje automático.

El valor de un futuro sin empleo.
En el futuro previsto en gran parte del comentario de las perspectivas de Wall Street y Silicon Valley, los humanos son otra externalidad. Hay demasiadas personas, que piden salarios, atención médica y trabajo significativo, que no serán necesarias a largo plazo. Cada victoria que ganamos para el trabajo humano, como un aumento en el salario mínimo, hace que las personas sean mucho más caras de emplear, y respalda el cálculo a través del cual los trabajadores de pago son reemplazados por quioscos con pantalla táctil. Donde los humanos siguen siendo valiosos, al menos temporalmente, es en entrenar a sus reemplazos. En la era de la subcontratación, los trabajadores domésticos gritaban mal cuando se les pedía que capacitaran a los trabajadores extranjeros con salarios más bajos que pronto los reemplazarían. Hoy en día, los trabajadores apenas son conscientes de la forma en que se utilizan las tecnologías de vigilancia digital para enseñar sus trabajos a los algoritmos. El único trabajo real de los humanos es hacerse obsoletos. Sin un nuevo pacto social a través del cual distribuir la recompensa potencial de la era digital, la competencia con nuestras máquinas es una propuesta perdedora. Perder el trabajo de uno hacia un robot no es divertido, pero la solución no es mantener los trabajos. Es para cambiar la forma en que pensamos sobre ellos. El modelo de empleo se ha vuelto tan frecuente que nuestros mejores organizadores, representantes y activistas todavía tienden a pensar en la prosperidad en términos de conseguir “puestos de trabajo” para todos, como si lo que todos realmente quieren es la oportunidad de mercantilizar sus horas de vida. No es que necesitemos un empleo completo para poder hacer todo, cultivar suficientes alimentos o hacer suficientes cosas para todos. En Estados Unidos, ya tenemos excedentes de alimentos y vivienda. Pero no podemos simplemente dar la comida extra a las personas hambrientas o el excedente a las personas sin hogar. ¿Por qué? ¡Porque no tienen trabajo! Los castigamos por no contribuir, aunque en realidad no necesitamos más contribución. Los trabajos se han invertido de los medios a los fines, el terreno a la figura. No son una forma de garantizar que se haga el trabajo necesario, sino una forma de justificar la participación de uno en la abundancia.
Si realmente estamos al borde de un futuro sin empleo, deberíamos celebrar nuestra eficiencia y discutir estrategias alternativas para distribuir nuestro excedente, desde un programa de bienestar mundial hasta un ingreso básico universal. Pero no estamos en ningún lugar cerca. Aunque las máquinas pueden hacer ciertas cosas más rápido y más eficientemente que los humanos, externalizan una serie de otros problemas que la mayoría de los tecnólogos creen que no existen. Incluso los robots y las computadoras de hoy en día están construidos con metales de tierras raras y minerales de la sangre; usan cantidades masivas de energía; y cuando se vuelven obsoletos, sus componentes se entierran en el suelo como desechos tóxicos. Al contratar más personas en lugar de máquinas, pagándoles salarios dignos y operando con menos eficiencia inmediata, las compañías podrían minimizar la destrucción que dejan a su paso. La contratación de 10 agricultores o enfermeras puede ser más costosa a corto plazo que usar un tractor o cuidador robótico, pero puede hacer que la vida sea mejor y menos costosa para todos a largo plazo.
En cualquier caso, los beneficios de la automatización han sido muy exagerados. Reemplazar el trabajo humano con robots no es una forma de liberación, sino una forma más efectiva e invisible de externalizar los verdaderos costos de la industria. El futuro sin empleo es menos una realidad hacia la que luchar que la fantasía de los inversores en tecnología para los cuales los humanos de todo tipo son simplemente el impedimento para una escalabilidad infinita. Un futuro en el que todos somos reemplazados por inteligencia artificial puede estar más lejos de lo que los expertos predicen actualmente, pero la disposición con la que aceptamos la noción de nuestra propia obsolescencia dice mucho sobre cuánto nos valoramos. El peligro a largo plazo no es que vamos a perder nuestros trabajos a los robots. Podemos lidiar con el desempleo si sucede. La amenaza real es que perderemos nuestra humanidad ante el sistema de valores que incorporamos en nuestros robots, y que a su vez nos impondrán.

Reclamando la agenda humana.
Algunos científicos de la computación ya están argumentando que se debería otorgar a la IA los derechos de los seres vivos en lugar de ser tratados como un simple instrumento o esclavo. Nos estamos moviendo hacia un mundo en el que nos importa menos cómo nos ven otras personas que cómo lo hace la inteligencia artificial. Los algoritmos reflejan la brillantez de los ingenieros que los diseñan, así como el poder de los procesos iterativos para resolver problemas de maneras novedosas. Pueden responder a las preguntas específicas que les traemos, o incluso generar imitaciones fascinantes de creaciones humanas, desde canciones hasta guiones cinematográficos. Pero nos equivocamos si buscamos la dirección de los algoritmos. No están guiados conscientemente por un conjunto central de valores sino por un conjunto específico de resultados. Son inconscientemente utilitarios. Sin embargo, sin la intervención humana, la tecnología se convertirá en la premisa aceptada de nuestro sistema de valores compartidos: el punto de partida a partir del cual se debe inferir todo lo demás. En un mundo dominado por la comunicación de texto, el analfabetismo era visto como una estupidez, y la ley escrita bien podría haber sido la palabra de Dios. En un mundo definido por las computadoras, la velocidad y la eficiencia se convierten en los valores principales. Sin embargo, para muchos de los desarrolladores e inversionistas de Silicon Valley, los humanos no deben ser emulados o celebrados, sino que deben trascenderse o, al menos, reingeniería. Estos tecnólogos están tan dominados por los valores de la revolución digital que ven cualquier cosa o persona con diferentes prioridades como un impedimento. Esta es una posición claramente antihumana y está impulsando la filosofía de desarrollo de las compañías más capitalizadas del planeta. Los sistemas de inteligencia artificial ya están empleados para evaluar el desempeño de los maestros, las solicitudes de hipotecas y los antecedentes penales, y toman decisiones tan sesgadas y perjudiciales como los humanos cuyas decisiones fueron alimentadas. Pero los criterios y procesos que utilizan se consideran demasiado sensibles comercialmente para ser revelados, por lo que no podemos abrir la caja negra y analizar cómo ajustar sus sesgos. Aquellos juzgados desfavorablemente por un algoritmo no tienen medios para apelar la decisión o conocer el razonamiento detrás de su rechazo. Muchas empresas no pudieron determinar los criterios de su propia IA, de todos modos.
A medida que los sistemas de AI persiguen sus objetivos programados, aprenderán a aprovechar los valores humanos. Como ya lo han descubierto, cuanto más puedan desencadenar nuestros instintos sociales y tirar de nuestras cuerdas, es más probable que nos comprometamos con ellos como si fueran humanos. ¿Desobedecería una IA que se siente como su padre o desconectaría una que parece ser su hijo?
Para un martillo, todo es un clavo. Para la IA, todo es un desafío computacional. Al comenzar con el supuesto de que nuestros problemas son solucionables por tecnología, terminamos enfatizando estrategias particulares. A menudo ignoramos o dejamos atrás el tipo de problemas que la tecnología no puede abordar. Nos salimos de balance, porque nuestro dinero y nuestro esfuerzo se dirigen hacia las cosas que podemos resolver y las personas que pueden pagar por esas soluciones. Por ejemplo, muchas más personas están trabajando para hacer que las redes sociales sean más persuasivas que para hacer que el agua potable sea más accesible. Estamos construyendo nuestro mundo alrededor de lo que nuestras tecnologías pueden hacer.
En cambio, necesitamos construir nuestro mundo alrededor de lo que las personas necesitan. Los seres humanos no son el problema. Nosotros somos la solución. Las compañías que reconocen esto construirán un tipo diferente de legado en la era de la IA. Serán reconocidos como verdaderos aliados del Equipo Humano.



Douglas Rushkoff
Rushkoff@rushkoff.com es el fundador del Laboratorio para el Humanismo Digital en el Queens College, CUNY, donde es profesor de teoría de los medios y economía digital. Sus libros incluyen Present Shock y Program o Be Programmed; es corresponsal y coproductor de los documentales de PBS Frontline, Generation Like y Merchants of Cool.

Para estos y otros temas que puedas implementar en tu empresa o bien  obtener asesoría , comunicate con nosotros.
Oficinas: (52) 5546 3298

En este blog escribo como Ing.Jorge Verduzco Murga, pero en este otro te platico de todo lo que cae en mis manos y que considero que vale la pena que le pongas atención.

Comentarios