Captchas y IA: ¿sin darnos cuenta estamos entrenando los modelos de Google?

De qué hablamos cuando hablamos de captchas

Los captchas son pruebas breves que encuentras al navegar: seleccionar imágenes con autobuses o semáforos, encajar una pieza de puzzle o marcar una casilla que dice “No soy un robot”. Su función pública y conocida es evitar que bots inunden un sitio web con tráfico malicioso. Sin embargo, en los últimos meses estas pequeñas pruebas volvieron al centro del debate público porque surgieron afirmaciones de que las respuestas de los usuarios podrían estar siendo aprovechadas para entrenar modelos de inteligencia artificial.

El desencadenante fue un tuit viral y un cambio en las condiciones de servicio de Google para su producto reCAPTCHA que hizo que, según varias interpretaciones, la compañía pasara de un rol tradicional de controlador de datos a actuar como procesador. Eso provocó una ola de publicaciones en redes y blogs que describían cómo seleccionar autobuses o semáforos ayudaría a etiquetar imágenes y, con ello, a entrenar sistemas de visión por computador. Ese tipo de datos es muy valioso para aplicaciones como los vehículos autónomos, y de hecho Waymo —la filial de coches autónomos de Alphabet— suele mencionarse en estas conversaciones.

Historia breve: de digitalizar libros a proteger sitios web

Una pieza clave en los orígenes de los captchas fue Luis von Ahn, que creó reCAPTCHA en los años 2000. Además de filtrar bots, reCAPTCHA se empleó para digitalizar textos antiguos: los usuarios resolvían palabras difíciles y esas respuestas ayudaron a transcribir libros y periódicos. Google compró reCAPTCHA en 2009 y amplió su uso, aprovechando esas etiquetas humanas para robustecer sus sistemas de reconocimiento.

Durante años, la propia página del servicio incluía mensajes explícitos sobre el uso de imágenes etiquetadas para entrenar sistemas de machine learning. Con el tiempo, la compañía ha ido actualizando su posición y sus productos, y en 2018 lanzó reCAPTCHA v3, que elimina los desafíos visuales tradicionales y según Google ya no usa las respuestas a los retos para entrenar modelos.

¿Qué dicen los expertos?

Investigadores que trabajan en visión por computador y conducción autónoma explican por qué las etiquetas humanas son tan valiosas. Karina Gibert, catedrática de la Universitat Politècnica de Catalunya, señala que «la mayor parte [de captchas] son bases de imágenes que tienen que ver con el tráfico. Están altamente vinculadas al reconocimiento de obstáculos, de vehículos y de señales de tráfico en circulación». Esto conecta directamente con lo que necesita reconocer un coche autónomo en condiciones reales.

Jordi Nin, investigador del Instituto de Investigación en Inteligencia Artificial, añade que las etiquetas humanas ayudan a manejar excepciones: «cuando la cámara está sucia o está lloviendo, tener imágenes donde un humano te ha etiquetado un tractor borroso ayuda al sistema a mejorar su capacidad de detectar tractores». Si muchos usuarios coinciden en una etiqueta, el sistema puede considerar esa clasificación como correcta y aprender de ella.

Reguladores y transparencia: preocupaciones legítimas

Organismos de supervisión de datos en Europa, como la CNIL en Francia y la autoridad bávara en Alemania, han expresado recelos. La CNIL advirtió que el propósito declarado de los captchas no siempre queda claro; la oficina bávara señaló dudas sobre la transparencia en el tratamiento de información. Estos cuestionamientos no implican necesariamente mala fe, pero sí subrayan la necesidad de claridad sobre qué se recoge, con qué propósito y por cuánto tiempo se conserva.

Google, por su parte, ha declarado que tras reCAPTCHA v3 dejó de usar las respuestas a los desafíos para el entrenamiento de modelos y que la recolección de datos se limita a mejorar el servicio de captchas. No obstante, hay matices relevantes: muchas páginas web siguen usando versiones antiguas del servicio que sí permitían el uso de las respuestas para anotación; además, reCAPTCHA no es un único producto, sino que está dividido entre soluciones para sitios públicos y ofertas específicas para clientes empresariales, con condiciones contractuales distintas.

¿Tiene sentido usar captchas para entrenar IA?

Desde el punto de vista técnico, sí: pedir a millones de personas que identifiquen objetos en imágenes genera anotaciones humanas en gran escala, muy útiles para entrenar modelos de visión. Esa información ayuda a mejorar la detección en situaciones difíciles —baja iluminación, lluvia, ángulos inesperados— y a construir conjuntos de datos más representativos. La técnica de presentar la misma imagen a varios usuarios y usar la etiqueta consensuada reduce errores individuales.

Pero el uso de esos datos plantea preguntas éticas y legales sobre consentimiento, finalidad y compensación. ¿Los usuarios saben que sus respuestas pueden servir para entrenar algoritmos? ¿Se les informa adecuadamente en el momento de interactuar con el captcha? ¿Qué derechos tienen sobre esos datos? Reguladores y defensores de la privacidad exigen respuestas claras.

Implicaciones para América Latina

Aunque la discusión se originó en países con regulaciones de datos más avanzadas, el tema es relevante en América Latina. Empresas que operan en la región usan servicios globales de captcha para proteger formularios y accesos. Los reguladores latinoamericanos están actualizando marcos legales de privacidad y protección de datos, y temas como la transparencia en el tratamiento de información y el propósito de uso de datos personales están ganando importancia.

Para tomadores de decisión en gobiernos, empresas y organizaciones no lucrativas, esto implica revisar proveedores y prácticas: auditar qué versión del servicio se emplea, leer las condiciones contractuales y exigir claridad sobre la finalidad del tratamiento de datos. También conviene evaluar alternativas —captchas menos intrusivos, soluciones de autenticación multifactor o servicios que ofrezcan garantías de privacidad— según el riesgo y el contexto.

Recomendaciones prácticas

• Auditen la versión del captcha que usan en sus sitios y aplicaciones. Versiones antiguas pueden estar sujetas a condiciones diferentes.
• Revisen contratos y políticas de privacidad del proveedor para entender el alcance del procesamiento de datos.
• Informen a los usuarios de forma clara y accesible sobre qué datos se recogen y con qué propósito.
• Consideren alternativas técnicas que reduzcan la recolección de datos, como métodos de detección de bots que no dependan de anotaciones humanas externas.
• Manténganse al tanto de la regulación local e internacional sobre protección de datos; adaptar prácticas ahora evita sanciones y pérdida de confianza.

Conclusión

Los captchas son mucho más que una molestia momentánea: históricamente han servido para proteger sitios web y, en algunos casos, para generar datos de entrenamiento útiles para la IA. Google afirma que desde 2018 dejó de usar las respuestas a desafíos para entrenar modelos, pero la existencia de versiones antiguas y la complejidad contractual mantienen el debate vivo. Para organizaciones en América Latina, la lección es clara: transparencia, control y revisión de proveedores son pasos imprescindibles para gestionar riesgos técnicos, legales y reputacionales relacionados con el uso de captchas y los datos que generan.