Asociados a los beneficios de las múltiples aplicaciones de la IA emergen también efectos negativos o, cuanto menos, riesgos y retos en su implementación.
Por Fiona J. McEvoy
Fundadora en YouTheData.com. Escritora e investigadora de ética de IA.
Impacto en el comportamiento
La gama de desafíos éticos y sociales a la que nos enfrentamos es enorme, al igual que las preocupaciones. Entre ellas: los sesgos algorítmicos, sistemas injustos o que no respetan la privacidad y la seguridad debidas, que tratan de influir en nuestras opiniones y decisiones en beneficio de otros, que fomentan la adicción a estar conectados. En el epicentro de todo esto está la asimetría de la información: el desequilibrio entre los usuarios (personas normales y corrientes que viven sus vidas), las grandes empresas tecnológicas y, en algunos casos, también los gobiernos, que son quienes tienen la sartén por el mango en tecnologías basadas en datos e Inteligencia Artificial.
El uso de estas tecnologías puede aumentar significativamente la influencia que pueden ejercer otros entes sobre los usuarios. También se puede tender a una mayor personalización a través de la IA, a la desinformación, a la idea de sentirnos vigilados… Todos los datos que ya dominan nuestros hábitos, nuestros clics, se van a sumar en tiempo real a información dinámica sobre biometría (que monitoriza nuestro cuerpo, incluidos movimientos como hacia dónde miran nuestros ojos) o el registro de signos vitales como nuestra frecuencia cardíaca.
Por Calum Chace
Escritor sobre Inteligencia Artificial
Impacto en el empleo
La automatización es objeto de preocupación por su impacto en el empleo y ha llevado a una polarización del debate sobre la naturaleza de dicha automatización y el futuro del trabajo. Si bien hasta ahora este fenómeno había estado en su mayoría relacionado con la mecanización, ahora las tareas cognitivas son también automatizadas en todo tipo de profesiones.
No obstante, será difícil que las máquinas reemplacen a los humanos en ocupaciones que requieran compasión, creatividad e inteligencia social. Por ejemplo, los fisioterapeutas o los trabajadores sociales.
Por otra parte, cobra fuerza la idea de ‘la paradoja de la última milla de la automatización’: que el deseo de eliminar el trabajo humano siempre genera nuevas tareas para los humanos. Por ejemplo, en computación humana: trabajos que empiezan y terminan online y que realizan cualquier tipo de tarea que pueda ser administrada, procesada, efectuada y pagada en línea.
Estos trabajos -etiquetado, clasificación, identificación de discursos de odio, etc.- potencian los sistemas, sitios web y aplicaciones de IA que todos usamos y damos por sentado. TripAdvisor, Match.com, Google, Twitter, Facebook o Microsoft son algunas de las empresas más conocidas que generan tareas bajo demanda en estas plataformas.
El problema de esta forma de trabajo es que podría hacer invisible la labor de cientos de millones de personas y condenarlas a la precarización.
