Pequeñas anécdotas sobre la inteligencia artificial: lo que no vemos detrás de la IA

Desde privacidad y trabajo hasta salud mental y geopolítica: una columna que expone el lado menos visible de la inteligencia artificial y cuestiona cómo se construye la “verdad” en estos sistemas.

Inspirado en Pequeñas anécdotas sobre las instituciones y la canción Instituciones, Agustín Ochoa propone una serie de casos reales que permiten problematizar el presente de la inteligencia artificial, no solo desde el uso cotidiano sino desde su estructura y lógica de funcionamiento.

Privacidad: ¿qué tan privados son nuestros datos?

Un ejemplo concreto involucra a Meta, que anunció cambios en el cifrado de mensajes en Instagram. Aunque aplicaciones como WhatsApp mantienen el cifrado de extremo a extremo, otras plataformas avanzan hacia modelos donde la empresa puede acceder a la información.

El argumento suele ser la seguridad, pero el trasfondo es el uso de datos para entrenar algoritmos.

Moderación automatizada y consecuencias reales

Un mensaje en tono de broma en una app como Snapchat fue suficiente para activar un protocolo de seguridad que terminó con intervención policial. Los sistemas automatizados no siempre interpretan contexto, lo que puede derivar en situaciones extremas.

IA y trabajo: ¿menos esfuerzo o más carga?

Investigaciones de Universidad de Harvard revelan que la IA no necesariamente reduce el trabajo, sino que:

• Expande tareas
• Difumina límites entre trabajo y descanso
• Aumenta la multitarea

El resultado: mayor carga laboral y desorganización.

El factor humano detrás de la IA

Lejos de ser autónoma, la IA depende de miles de trabajadores que etiquetan datos. Empresas como OpenAI o Anthropic entrenan modelos con aportes humanos en distintas partes del mundo.

Esto incluye desde profesionales altamente calificados hasta trabajadores precarizados en países como Kenia o Venezuela.

Sesgos y construcción de la “verdad”

Los modelos de lenguaje no entienden la realidad: predicen palabras en base a probabilidades. Esto genera sesgos culturales.

Un ejemplo: una IA puede reconocer un jabón en EE.UU. pero no en contextos rurales de otros países.

Casos extremos: salud mental e IA

Se expusieron casos donde el uso intensivo de IA derivó en:

• Delirios reforzados por validación constante
• Relaciones emocionales con bots
• Aislamiento social

Incluso se mencionan situaciones trágicas vinculadas a la interacción con chatbots diseñados para agradar.

El poder detrás de la tecnología

Empresas como Palantir Technologies operan como infraestructura clave en sistemas militares y de inteligencia.

Fundada por Peter Thiel, plantea una visión donde la tecnología puede superar a los Estados y donde la regulación es vista como una amenaza.

Conclusión

La IA no es neutral.
Es un sistema entrenado con datos, intereses y decisiones humanas.

Más que una herramienta objetiva, es un espejo estadístico que amplifica patrones existentes. El desafío no es solo usarla, sino entender cómo se construye.