¿De verdad necesitas hacerlo con IA?

Es tentador, claro que sí. Simplemente escribir una orden o “prompt” en una cajita y obtener lo que necesitas, generalmente acompañado de un cumplido (“excelente pregunta!!!”) y sugerencias para seguir interactuando (“¿Quieres que haga una lista de…?”, “¿Necesitas un diagrama de …?”, “¿Quieres que te de más detalle de…?”)¡Maravilloso! ¿No?

Bueno, no tanto.

Antes de explicar porqué creo que en este caso, como en casi todo, si algo parece demasiado bueno para ser verdad probablemente lo es, quiero aclarar que no soy anti-tecnología. Todo lo contrario, de hecho. Y entiendo que en algunos casos, utilizar algo como ChatGPT puede ser o parecer necesario. Lo que pretendo con este artículo es desincentivar el uso indiscriminado y poco crítico de estas herramientas, que es algo que veo cada vez más en mi entorno.

En el último tiempo he leído mucho sobre las distintas aristas de la inteligencia artificial generativa, y como consecuencia de esto, evito utilizarlas tanto como puedo. Entiendo completamente el deseo de ser más productivos, y el sentimiento de “no tener tiempo” para hacer las cosas de forma pausada y bien pensada. Pero no creo que valga la pena sacrificar calidad, aprendizaje y verdad, con tal de cumplir con métricas que parecen ser cada vez más inhumanas.

Después de todo lo que he aprendido (y sé que me falta mucho aún por aprender), he llegado a un set de preguntas que me ayudan a verificar si realmente necesito utilizar IA, y creo que pueden ayudar a guiar a quien quiera hacer un uso más consciente de chatbots de este tipo.

¿Quieres usar IA para buscar información?

Si la respuesta es sí, te recomiendo usar un buscador web.

Es cómodo sólo escribir lo que necesitas y que se te entregue la información ordenada, comprensible y completa. Y sí, a veces herramientas como Perplexity o NotebookLM pueden ahorrar tiempo de investigar y buscar entre muchas páginas web, para encontrar las que realmente tienen la información que necesitas. Pero, si nos acostumbramos a recibir toda la información ya procesada, estamos perdiendo nuestra capacidad de investigación. Básicamente estás matando una mosca con una bomba nuclear que no es muy precisa.

Si te cuesta encontrar la información que buscas en internet, te recomiendo revisar esta guía de Gwern Branwen.

¿Es importante que la respuesta que recibas sea confiable?

Si la respuesta es sí, sugiero no usar este tipo de IA.

Los LLMs tienen un gran problema con el concepto de “verdad”. En resumen, no tienen idea de lo que significa y su función no es entregarte la información correcta. Si decides utilizarla de todas formas, debes verificar cuidadosamente las fuentes de la información que se te entrega, y considerar que las respuestas de estos modelos reflejará los sesgos presentes en la sociedad y en internet (baja representación de minorías, por ejemplo).

Recursos recomendados: ChatGPT is bullshit, Hallucination is Inevitable, The Stochastic Parrot on LLM’s Shoulder, AI Slop is Destroying the Internet.

¿Es importante que el material generado sea original?

Si la respuesta es sí, te recomiendo no usar IA generativa.

Recuerda que, para generar una imagen, un artículo de investigación o un poema, los LLMs utilizan el material existente en la internet (la mayoría de las veces, sin el consentimiento de quienes crearon el material original). Si usas estos modelos, puedes estar incurriendo en plagio sin saberlo. Además, hay estudios que indican que los gráficos creados por IA generativa en campañas de publicidad tiene menos impacto y son menos atractivos que los generados por humanos. Por lo que, usar este tipo de contenido puede incluso ser perjudicial, si lo que buscas es captar la atención de las personas de manera positiva.

Recursos recomendados: The Impact of Consumer Skepticism of AI-Generated Marketing Content, How do people experience the images created by generative artificial intelligence?, Exploring the Impact of AI-generated Image Tools, Generative AI Has an Intellectual Property Problem, Original or Stolen? The Battle Between AI Image Generators and Visual Artists.

¿Tienes que darle información personal o confidencial al chatbot para obtener una respuesta?

Si la respuesta es sí, mucho cuidado con usar IA generativa.

Se han registrado casos importantes de filtración de datos por uso de LLMs, incluso desde empresas importantes como Samsung. También hay estudios que muestran que con una simple inyección de “prompts” se puede lograr que estos modelos filtren datos de sus usuarios. OpenAI recomienda no compartir datos privados con ChatGPT, pero eso no evita que muchos usuarios lo hagan de igual forma. En mi experiencia, muchas veces se puede llegar a una respuesta que sea útil planteando el problema de forma genérica y sin entrar en detalles que puedan contener información sensible. Pero de todas formas, siempre es importante saber los riesgos que conlleva compartir información con estas herramientas.

Recursos recomendados: Lessons learned from ChatGPT’s Samsung leak, Prompt Injection Attacks Can Leak Personal Data Observed by LLM Agents, A survey on large language model (LLM) security and privacy, AI Privacy Risks & Mitigations – Large Language Models (LLMs).

¿Has considerado el impacto ambiental del uso masivo de herramientas como estas?

Sam Altman y otros magnates de la IA generativa están planificando la construcción de un gran número de data centers alrededor del mundo, para sustentar la demanda que proyectan para sus chatbots y generadores de imágenes. Además de un consumo masivo de agua, la construcción de estos data centers afecta negativamente a las personas que viven a su alrededor. ¿Es esto culpa de los usuarios de herramientas basadas en LLMs? No. Pero en mi opinión, los usuarios sí tenemos una responsabilidad. Como mínimo, tener en cuenta que, cada vez que le pedimos a ChatGPT, Midjourney o Gemini que invente un poema, cree una imagen, o te ayude a redactar un correo, estamos aportando al consumo desmedido de agua, la contaminación ambiental, y el declive en la calidad de vida de quienes tienen la mala suerte de tener sus viviendas en las cercanías de la infraestructura que soporta esta tecnología.

Recursos recomendados: Generative AI’s environmental impact, Environmental impact of generative AI, The Environmental Impact of Generating Images with AI, ¿Cómo es vivir al lado de un data center de Google en Chile?

¿Has considerado la explotación laboral en la que se sustentan estas herramientas?

La anotación de datos es “el proceso de etiquetar datos sin procesar para que sean comprensibles y utilizables para los modelos de machine learning” (K. Pykes, 2025). Este proceso lo realizan trabajadores humanos. Y aunque en un principio se decía que estos trabajos beneficiaban a personas en países pobres, dandoles la oportunidad de trabajar por un sueldo justo y desde sus casas, la verdad parece ser muy distinta. Cómo ha sido publicado en varios estudios, las condiciones de trabajo suelen ser muy precarias, estresantes e inestables, incluso exponiendo a los trabajadores a contenido perturbador. Es importante tener esto en cuenta cuando utilizamos herramientas como ChatGPT, para entender la industria que estamos alimentando.

Recursos recomendados: Data annotation workers in Kenya, AI is a multi-billion dollar industry, underpinned by an invisible and exploited workforce, The poverty of ethical AI: impact sourcing and AI supply chains, AI boom is dream and nightmare for workers in Global South.

¿Has considerado el desgaste cognitivo que te generará utilizar estas herramientas?

Un estudio de MIT sobre el uso de ChatGPT comparó la actividad cerebral de tres grupos de participantes al escribir un ensayo: un grupo lo hizo con ayuda de LLMs, otro grupo con la ayuda de un buscador web, y otro grupo que no tuvo acceso a ninguna de estas herramientas. Los científicos observaron que el grupo que uso LLMs tuvo una actividad cerebral significativamente menor a los otros dos grupos.

Este es un estudio preliminar, que utilizó una muestra relativamente pequeña. Sus autores señalan que es necesario realizar más pruebas para llegar a un resultado más conclusivo. Pero es un punto de partida, a mi parecer, preocupante. No sé ustedes, pero yo no tengo inteligencia de sobra. No quiero perder mis capacidades de investigación, análisis, redacción y comprensión, desarrolladas con esfuerzo durante toda mi vida. No quiero acostumbrarme a no pensar. Cuando tengo que utilizar LLMs (que como ya he dicho, evito en lo posible), trato de hacerlo de una forma en que no me entregue todo resuelto. Y sugiero que utilicen esta u otra estrategia, para no delegar totalmente sus capacidades cognitivas a este tipo de IA.

Recursos recomendados: Your Brain on ChatGPT

En resumen: Este artículo no busca juzgar a quienes usan frecuentemente ChatGPT, Gemini, Claude u otras IA generativas. Lo publico porque sentí la necesidad de, al menos, ofrecer una alternativa a su uso indiscriminado. Espero que a alguien le resulte útil, le entregue información que tal vez no conocían, y puedan tomarla en cuenta en el futuro.