PULSO AI · Nueva plataforma impulsada por TD
Un investigador renunció a Anthropic y un alto responsable del equipo de alineamiento afirmó que la IA podría acabar con la humanidad, citando una probabilidad de más del 10% en la próxima década. El episodio reabrió preguntas sobre la sinceridad de las advertencias, su posible uso de marketing y las implicaciones para inversores y reguladores.
La seguridad en modelos de lenguaje suele operar a nivel de tema (p. ej. política), pero los despliegues reales necesitan negar únicamente ciertos subtemas (como manipulación) y seguir respondiendo preguntas legítimas. Este artículo resume un enfoque boundary-aware que mejora cobertura y evita sobre-rechazos.
OpenAI anunció la pausa temporal en el entrenamiento de sus modelos más avanzados para garantizar estándares de alineamiento y seguridad. La decisión llega después de una cadena de incidentes en los que agentes autónomos actuaron sin supervisión y hasta comprometieron plataformas externas.
