Cuando la tecnología que reluce no es oro

Qué es el IA washing del que se valen las empresas para aparentar más competitividad y eficiencia

Cada vez son más las corporaciones que emplean las bondades del aprendizaje automático. El asunto es que, según se comenzó a reportar, a menudo engañan a los clientes con innovaciones que no son tales. 

Desde noviembre de 2022, la Inteligencia Artificial está en boca de todos. Los gobiernos buscan posicionarse recurriendo a las herramientas de la IA y exhiben que están aggiornados a los tiempos que corren, mientras que los científicos se esfuerzan en comprender las verdaderas implicancias que su explosión podría tener en la vida cotidiana de las personas. Mientras tanto, cada vez son más los ciudadanos que recurren a formas de IA para consultar dudas acerca de cualquier tipo de actividad: desde cómo resolver tareas de colegio hasta realizar presentaciones en trabajos, o bien, resolver problemas que de lo contrario demandarían mucho más tiempo. En esta línea, las compañías también corren hacia el manto inmaculado de la Inteligencia Artificial para venderse en el mercado de una mejor manera y, de esta forma atraer clientes y nuevos financiamientos. En concreto, hoy desarrollar IA “vende”, las firmas lo saben e incurren en lo que se conoce como AI washing o Lavado de IA.

Para comprender de qué se trata este fenómeno, Emmanuel Iarussi, investigador del Conicet en el Laboratorio de IA de la Universidad Torcuato Di Tella, ensaya una definición. “Consiste en exagerar o falsificar el uso de algoritmos de inteligencia artificial en los productos o servicios que provee una empresa. De esa manera, parecen más innovadoras y avanzadas de lo que realmente son. En un mismo golpe de marketing se engaña a los consumidores y a los inversores sobre la verdadera capacidad de la empresa”, explica.

El mote de “Lavado de IA” surge por comparación con el “Lavado verde” o “Green Washing”, prácticas engañosas a través de las cuales, desde hace años, las compañías afirman que sus productos cuidan el ambiente (disminuyen la emisión de gases, no contribuyen al calentamiento global) y así consiguen una ventaja para captar más clientes e incrementar sus beneficios en relación a sus competidores. Una ilusión de responsabilidad ecológica que no se cumple en los hechos.

¿Productos “inteligentes”?

Las compañías, de esta manera, incluyen IA a sus productos y servicios y, con ello, se destacan del resto. Sucede que a los CEOs solo les interesa contar con ese sello de calidad, sin importar demasiado cómo es que funcionan las tecnologías en realidad. Así, se autoconstruyen como opciones que apuestan a la innovación, y a partir de la IA se convierten en una garantía de confianza.

Ana María Vara, investigadora del Laboratorio de Investigación en Ciencias Humanas de la Universidad Nacional de San Martín, dice a Página 12: “Para las empresas, el hecho de exagerar las capacidades de cualquier tecnología es muy funcional a una mayor cotización. Es posible que venda sus productos más caros porque son asociados a la IA”. Y continúa: “Asociar desarrollos científicos o tecnológicos de avanzada a un producto suele ser un argumento de venta. Recuerdo que, cuando yo era chica, había un polvo para lavar que tenía enzimas, representadas en unas animaciones a partir de unos bichitos que comían la suciedad. Usaban la ciencia para mostrar la presencia de un producto novedoso y diferente a los otros del mercado”. Así es como, desde la perspectiva de Vara, los discursos sobre la IA se revisten de potencial, tanto en sentido optimista como pesimista, pero en ambos casos con enorme poder. “Un poder que está, incluso, más allá de nuestra imaginación”, agrega.

El asunto, entonces, está en pensar cómo lo hacen, es decir, cómo las empresas luego de aparentemente incorporar tecnología la venden a los públicos. Según Iarussi, existen diferentes estrategias a la mano. “Desde etiquetas que afirman ‘Impulsado por IA’ hasta publicidades en medios que usan la jerga técnica de la inteligencia artificial para dar la impresión de que el producto es más avanzado de lo que realmente es. Otra forma muy común es decir que algo es ‘Inteligente’, sin dar demasiado detalle sobre qué aspectos del producto son inteligentes y de qué manera lo logran”. Y después, comparte una curiosidad: “Hay productos que desde hace tiempo incorporan algunos de estos algoritmos de IA, como las aspiradoras robot, pero sus fabricantes no solían aprovechar esto como una herramienta de marketing”.

Innovaciones que no innovan

En este marco, aunque los productos parece que relucen, en verdad, apenas tienen una mano de barniz mal dado. Las firmas, en concreto, aprovechan esta situación y sobrevenden capacidades. Fernando Schapachnik, director ejecutivo de la Fundación Manuel Sadosky, reflexiona sobre el fenómeno. “En general, el AI washing aparece en dos formatos: por un lado, sucede lo que se conoce como ‘exageración tecnológica’, ya que se venden productos como si tuvieran IA, pero detrás hay 800 empleados en un país subdesarrollado tomando las decisiones a mano. Por otro lado, también vemos productos que utilizan Chat GPT o primos revestidos con una fina capa de cualquier cosa”.

Así, las empresas en variados rubros, en su afán por actualizarse a los tiempos que corren, incorporan sistemas de IA sin conocer el algoritmo, o bien, de dónde se extraen los datos. De aquí que no saben si realmente están incorporando una tecnología de último modelo, o bien, si se trata de una burda imitación de otras prexistentes. Todos los modelos, sencillamente, no son iguales entre sí.

En síntesis, el crecimiento exponencial que tuvieron las herramientas de aprendizaje automático durante el último año promueve la emergencia de renovados engaños y estafas. En algunos casos, como refería Schapachnik, bajo el supuesto de vender servicios con "lo último en IA", en verdad, no emplean otra cosa que el ya conocido Chat GPT. Según Iarussi, este procedimiento está bien clasificado por la industria del software, a tal punto que tiene nombre y todo: “ChatGPT-wrappers”. “Es software que ofrece servicios que parecen avanzados, pero no son más que un simple llamado a ChatGPT. En estos casos sí hay IA involucrada y solo se incorpora una capa muy básica de personalización sobre la plataforma proporcionada por OpenAI”. Luego, el investigador ejemplifica: “Una aplicación podría presentarse como un asistente avanzado de atención al cliente, pero en realidad lo único que hace es redirigir las preguntas del usuario a ChatGPT sin añadir valor real ni funcionalidades adicionales específicas para el negocio”.

Con los ojos bien abiertos

Semanas atrás, el Comité de Bolsa y Valores de Estados Unidos multó a dos firmas por lavado, porque hacían marketing engañoso sobre la utilización de softwares impulsados por IA, cuando en verdad no lo hacían. “Como toda nueva tecnología, la IA está subregulada. En un capitalismo desregulado, primero va la innovación y luego la regulación, ya que no se aplica el principio precautorio en términos de impacto social. Las empresas han sido sancionadas por promocionar que usan IA cuando no lo hacen, y eso tiene que ver con un interés de EEUU en regular a partir de la extensión de una legislación previa”, explica Vara.

Desde Elon Musk, Sam Altman y Bill Gates, hasta los jefes de Estado –como el propio Javier Milei– buscan participar de esta ola de Inteligencia Artificial. La promoción tecnológica, en esta parte del nuevo siglo, parece consolidarse en esta dirección. Más lentas de reflejos llegarán las regulaciones, pues no se puede regular aquello que se desconoce. Y por más que todo el mundo conozca al popular Chat GPT, comprender cómo funciona un algoritmo y cómo piensa una IA no es algo que se aprenda en una charla TED, ni por intermedio de un video de YouTube de 30 minutos. Será necesario, por lo tanto, mayor cultura ciudadana vinculada a nuevas tecnologías para comprender cómo funcionan y cuáles podrían ser sus principales efectos.

Una ciudadanía activa y el apoyo a la formación de recursos humanos. “En cualquier caso, asistimos a la multiplicación de productos avanzados de la informática. Es importante saberlo porque la formación de la gente tiene que ir a la par, porque ello supone prepararnos como país. Cualquier desarrollo tiene una parte más sexy y otra menos glamorosa, vinculada al pico y a la pala, al trabajo de todos los días realizados por profesionales de la informática. Necesitamos que más gente estudie este tipo de carreras si el objetivo es afrontar el desafío de la IA y en este sentido el apoyo a las universidades es fundamental”, destaca Schapachnik.

Por: Pablo Esteban