Cómo un novato creó una app militar con chatbots de IA: lecciones para equipos no técnicos
Un proyecto del U.S. Air Force–MIT AI Accelerator demostró que personas sin experiencia en programación pueden prototipar aplicaciones militares con chatbots de IA. El proceso, llamado 'vibe-coding', permitió diseñar un prototipo funcional, pero reveló limitaciones en seguridad, alcance y confianza en los modelos.
De la idea al prototipo: qué hizo el cadete
Como parte del U.S. Air Force–MIT AI Accelerator Phantom Program, el cadete Joshua Lynch, con mentoría de Laura Niss del MIT Lincoln Laboratory, se propuso una prueba concreta: ¿puede alguien sin experiencia previa en programación desarrollar una aplicación útil apoyándose exclusivamente en chatbots de inteligencia artificial? La respuesta práctica fue sí, pero con matices importantes.
Lynch empleó una técnica que él mismo definió como “vibe-coding”: confiar enteramente en prompts para que chatbots generativos escribieran y refinaran código. Para esto utilizó modelos comerciales pagos —Anthropic Claude, OpenAI ChatGPT y Google Gemini— y, al final, ensambló la aplicación en Google AI Studio App para interactuar con la API de Gemini. El resultado fue un prototipo llamado ROMAD-AI (Remote Operating Modular Augmentation Device).
Qué buscaba resolver ROMAD-AI
El objetivo inicial era ambicioso: una aplicación táctica capaz de asistir en reconocimiento y vigilancia, ayuda en identificación de blancos, manejo de comunicaciones y ejecución autónoma de acciones con enfoque en reducir daños colaterales y mejorar la supervivencia del equipo. Con el avance del proyecto, Lynch amplió su formación en IA y se familiarizó con usos militares y civiles de estas tecnologías.
Sin embargo, las limitaciones técnicas y de tiempo obligaron a reorientar el alcance. En vez de un sistema operativo para el campo de batalla, el prototipo terminó enfocándose en procesamiento documental: analizar mapas tácticos y generar documentos de planificación operativa mediante una interfaz con un VLM (modelo visión-lenguaje).
Lecciones prácticas al trabajar con chatbots para codificar
A lo largo de tres meses, Lynch identificó patrones y buenas prácticas que resultan útiles para cualquier persona que quiera prototipar con modelos generativos:
- Fraccionar problemas: pedir al chatbot que genere pequeñas unidades funcionales en lugar de un sistema monolítico ayuda a mantener foco y control.
- Formular prompts claros: instrucciones precisas y delimitadas reducen la tendencia del modelo a alterar secciones no relacionadas.
- Reencauzar conversaciones: cuando el asistente se va por tangentes, es necesario devolverlo al objetivo con prompts de corrección.
- Reconocer límites del modelo: identificar cuándo el chatbot ofrece respuestas plausibles pero inexactas fue clave para validar resultados.
Niss observó que gran parte del trabajo consistió en aprender a convivir con esas limitaciones y a montar soluciones de contorno aceptables para prototipado rápido.
Riesgos y límites: seguridad, dependencias y verificación
El ejercicio demostró que, aunque los chatbots pueden acelerar la creación de prototipos por usuarios no técnicos, presentan riesgos relevantes para aplicaciones sensibles:
- Seguridad y exposición de datos: en un caso, el prototipo terminó enviando documentos a un modelo Gemini remoto para su análisis, en lugar de procesarlos localmente, algo que el desarrollador no había advertido inicialmente. Esto ilustra cómo una mala configuración puede filtrar información fuera de un perímetro seguro.
- Código no verificado: confiar ciegamente en código generado por IA sin revisión experta puede introducir vulnerabilidades.
- Adecuación a producción: según los autores del proyecto, estas herramientas funcionan mejor como asistentes de prototipado que como soluciones listas para uso en entornos críticos.
Percepción y comportamiento de distintos modelos
Durante el proyecto se midieron percepciones sobre los modelos. Lynch y Niss notaron variaciones en cómo los asistentes eran percibidos —en rasgos como simpatía, antropomorfismo y nivel de inteligencia aparente— y encontraron que Claude mostró más estabilidad que ChatGPT en esas mediciones a lo largo de actualizaciones y uso. Además, Lynch valoró al chatbot como tutor, aunque también detectó imprecisiones en temas que él conocía bien.
Implicaciones para fuerzas armadas y organizaciones en América Latina
Si bien el experimento se realizó en un contexto de la Fuerza Aérea de Estados Unidos y en colaboración con MIT, sus conclusiones tienen lecciones aplicables para organizaciones latinoamericanas:
- Prototipado accesible: unidades técnicas y operativas con poco acceso a desarrolladores pueden usar chatbots para transformar ideas operativas en prototipos que faciliten la comunicación con equipos de ingeniería.
- Gobernanza y soberanía de datos: para adopciones regionales, es crítico definir políticas sobre dónde se procesan los datos (local vs. nube), acuerdos con proveedores y controles de seguridad para evitar fuga de información sensible.
- Capacitación y validación: la formación básica en prompt engineering y en prácticas de verificación de código es indispensable antes de confiar resultados generados por IA.
- Aplicaciones civiles y dual-use: la misma capacidad para prototipar herramientas de planificación puede ser útil en logística, gestión de emergencias o planificación fronteriza, siempre que se cuide la protección de datos y la validación técnica.
Conclusión: herramienta de diseño, no reemplazo del ciclo seguro
El proyecto de Lynch demuestra que la barrera técnica para crear prototipos funcionales se ha reducido: una persona sin experiencia previa en programación puede, con orientación mínima, generar una aplicación útil apoyándose en chatbots. No obstante, la experiencia confirma que estas herramientas son, por ahora, mejores para iterar ideas y comunicar requerimientos que para desplegar sistemas críticos sin intervención experta.
Para organizaciones militares y civiles en Latinoamérica, el potencial es claro: acelerar innovación interna, mejorar la comunicación entre usuarios operativos y desarrolladores, y reducir tiempos de diseño. Pero esto exige implementar controles de seguridad, procesos de revisión de código y políticas de datos robustas para evitar riesgos operacionales o de exposición de información. En resumen, la IA generativa abre puertas al prototipado democratizado, pero no sustituye la necesidad de buenas prácticas de ingeniería y gobernanza.
Fuente original: MIT News AI