La inteligencia artificial ya está metida en nuestra vida cotidiana: la usamos para buscar información, escribir textos, resolver dudas y hasta para conversar. Pero ese crecimiento tan acelerado también trae un desafío grande: cómo asegurarnos de que estas herramientas sean seguras, especialmente para las personas más vulnerables.

Esta semana en Estados Unidos un grupo de fiscales generales les envió una carta a empresas como Microsoft, OpenAI, Google, Meta y otras, exigiendo mejorar los controles de seguridad. Lo hicieron después de varios casos en los que chatbots dieron respuestas “delirantes” o que podían afectar la salud mental de los usuarios. La advertencia fue clara: si no corrigen esos problemas, podrían estar violando la ley.

Más allá del caso puntual, lo importante es lo que revela: los sistemas de IA todavía pueden equivocarse de formas que no siempre son evidentes para quien los usa. Por eso se reclamaron medidas como auditorías independientes, alertas a los usuarios ante respuestas dañinas y protocolos de actuación similares a los que ya existen para incidentes de ciberseguridad.

Quién es el responsable

Este tipo de episodios abre una discusión fundamental. La IA puede ayudar mucho, pero no piensa por sí misma ni entiende lo que dice. A veces genera respuestas que suenan seguras, empáticas o convincentes, cuando en realidad son errores o divagues que parecen convincentes. Y eso puede tener impacto emocional si la persona del otro lado está vulnerable.

Por eso empiezan a aparecer dudas necesarias: ¿Cuánta responsabilidad tienen las empresas que desarrollan estos sistemas? ¿Qué papel deben cumplir los gobiernos al regularlos? ¿Y qué lugar nos queda a los usuarios?

La respuesta más honesta es que la responsabilidad es compartida.

• Las empresas deben garantizar herramientas más seguras, transparentes y auditadas de forma independiente.
• Los Estados tienen que establecer reglas claras para proteger a la población.
• Los usuarios, por su parte, necesitamos comprender que estas herramientas no son profesionales de salud, ni amigos, ni consejeros sin margen de error.

La inteligencia artificial no va a desaparecer. Al contrario, va a ocupar cada vez más espacio en nuestra vida. Por eso el desafío no es temerle, sino aprender a usarla con cuidado, criterio y límites, sabiendo que no reemplaza al acompañamiento humano cuando realmente importa.