Microsoft y la “adicción” a IA & Moderación multimodal con Nemotron 3.5 - Noticias de IA (6 jun 2026)

Por favor, apoya este pódcast visitando a nuestros patrocinadores: - KrispCall: Telefonía en la nube agéntica - https://try.krispcall.com/tad - Lindy es tu asistente de IA definitivo que gestiona proactivamente tu bandeja de entrada - https://try.lindy.ai/tad - Consensus: IA para la investigación. Obtén un mes gratis - https://get.consensus.app/automated_daily Apoya directamente a The Automated Daily: Cómprame un café: https://buymeacoffee.com/theautomateddaily Temas de hoy: Microsoft y la “adicción” a IA - Un documento filtrado sugiere que Microsoft quería hacer “adictivo” su asistente Scout en Microsoft 365. Claves: lock-in, manipulación, datos sensibles, presión regulatoria. Moderación multimodal con Nemotron 3.5 - NVIDIA lanza Nemotron 3.5 Content Safety para moderación multimodal y multilingüe con políticas personalizadas en una sola llamada. Claves: compliance, trazabilidad, guardrails, enterprise AI. Apple abre iMessage a bots - Apple aprueba Poke dentro de Mensajes, el primer servicio de IA de terceros accesible directamente en iMessage. Claves: ecosistema, agentes accionables, control de plataforma. Robótica: apuesta por “AGI física” - Generalist AI levanta 400 millones para acelerar robots de propósito más general entrenados con datos del mundo físico. Claves: inversión, automatización industrial, preentrenamiento en robótica. Evaluación realista de agentes de voz - ServiceNow amplía EVA-Bench Data 2.0 para medir agentes de voz empresariales en flujos realistas y con trampas como autenticación. Claves: benchmarking, fiabilidad, voz-first, herramientas. IA que mejora IA: RSI en marcha - Anthropic y Sakana AI empujan la idea de recursive self-improvement: modelos que ayudan a construir mejores modelos, con el humano como supervisor. Claves: aceleración, verificación, gobernanza, riesgos. Herramientas para operar IA en producción - Entre mapas de temas para trazas de agentes y SDKs local-first, crece el enfoque en observabilidad, privacidad y comparación de modelos. Claves: trazas, clustering, on-device, evaluación. Seguridad: IA para hallar vulnerabilidades - Anthropic publica un repositorio de referencia para que Claude busque y parchee vulnerabilidades con controles de seguridad operativa. Claves: AppSec, sandboxing, verificación, automatización. Generación de imágenes más rápida - Qwen-Image-Flash propone acelerar generación y edición de imágenes con destilación, destacando que el “recetario” de entrenamiento importa tanto como la técnica. Claves: distillation, difusión, velocidad, calidad. - NVIDIA Releases Nemotron 3.5, Adding Custom Policies and Auditable Reasoning to Multimodal Safety - Generalist AI Raises $400M to Scale Physical-AI Models for Robotics - Software Engineer Wins Religious Exemption From AI Use as Employers Expand Mandates - Apple Approves Poke as First Third-Party AI Agent Inside iPhone Messages - ServiceNow Expands EVA-Bench Voice-Agent Benchmark to Three Enterprise Domains - Anthropic Says AI Is Already Speeding Up AI Development, Raising Recursive Self-Improvement Risks - Sakana AI Launches Recursive Self-Improvement Lab in Tokyo - Braintrust Explains “Topics,” an LLM-Facet Clustering System for Scalable Trace Intelligence - Tether open-sources QVAC, a local-first peer-to-peer AI SDK for cross-platform apps - GitHub project adds a dependency-free CLI to compare local Ollama model outputs - Anthropic releases a reference harness for Claude-driven vulnerability scanning and patching - Leak Alleges Microsoft Planned to Make Scout AI ‘Addictive,’ Nadella Denies It - Leaked Microsoft Strategy Describes Plan to Make Users ‘Addicted’ to Scout AI Assistant - Anthropic: Claude Now Writes Over 80% of New Production Code, Forcing a Rethink of Enterprise Engineering - Qwen-Image-Flash Paper Highlights Training Recipe as Key to Few-Step Distillation - Crusoe Opens Private Preview for Serverless Fine-Tuning Service - Report: Anthropic Exposes “claude-oceanus-v1-p” Model to Red Teams, Hinting at New Mythos Release - Metronome Webinar to Discuss Monetization Shifts in Data Infrastructure and AI Usage Transcripcion del Episodio Microsoft y la “adicción” a IA Empecemos por la polémica del día. Un medio asegura haber obtenido un documento interno de Microsoft sobre su asistente Scout —antes conocido con otro nombre en fase de incubación— donde la primera etapa de despliegue estaría orientada a “hacer a la gente adicta”. Según el reporte, la idea sería integrar el asistente en Microsoft 365 para que se vuelva parte del trabajo cotidiano, con una dependencia difícil de deshacer. Microsoft lo niega públicamente y su CEO habría dicho que no reconoce el documento, pero la filtración menciona nombres y roles concretos, lo que alimenta el debate. ¿Por qué es relevante? Porque si los “agentes personales” se diseñan para maximizar dependencia, entramos en un terreno parecido al de las redes sociales: incentivos de retención chocando con autonomía del usuario, y encima con acceso a correos, documentos y rutinas laborales. Moderación multimodal con Nemotron 3.5 De la confianza del usuario a la confianza del sistema: NVIDIA presentó Nemotron 3.5 Content Safety, un modelo orientado a moderación de contenido que evalúa, en un solo paso, el prompt del usuario, una imagen opcional y hasta la respuesta del asistente. La gracia es que muchos problemas aparecen justo en la interacción: lo que parece inocuo en texto puede cambiar con una imagen, o una respuesta puede convertir un prompt ambiguo en una violación de política. Lo más llamativo es que permite aplicar políticas personalizadas “en el momento”, es decir, reglas específicas del sector o de la empresa sin depender únicamente de una taxonomía fija. Y si hace falta auditoría, puede ofrecer un modo con trazas de razonamiento para revisión y cumplimiento. En la práctica, esto apunta a un dolor real: desplegar IA global, multilingüe y multimodal sin reentrenar para cada idioma o caso regulatorio. Apple abre iMessage a bots Y siguiendo con guardrails, NVIDIA también publica un dataset asociado para entrenar y evaluar este tipo de moderación con más transparencia. Esto no es un detalle menor: en seguridad de modelos, muchas veces faltan datos abiertos que permitan comparar enfoques y entender por qué un clasificador marca algo como riesgoso. Que haya ejemplos multimodales y multilingües, y además con explicaciones, puede ayudar a equipos que hoy operan con cajas negras y métricas pobres. Robótica: apuesta por “AGI física” En el frente de plataformas, Apple aprobó un servicio de IA de terceros llamado Poke para funcionar dentro de la app de Mensajes del iPhone. Es la primera vez que un agente externo se puede invocar directamente en iMessage, y por lo que se comenta, se apoya en el marco de “Messages for Business”, que originalmente era para que empresas atendieran conversaciones dentro de la app nativa. La novedad es estratégica: sugiere que Apple podría estar abriendo la puerta a bots más accionables dentro de una de sus apps más centrales, sin anunciar un sistema de plugins tradicional. Eso sí, el arranque parece irregular, con reportes de respuestas lentas o fallos. Si la integración cuaja, cambia hábitos: pedir cosas y ejecutar acciones desde el chat, con implicaciones obvias para competencia, privacidad y control del ecosistema. Evaluación realista de agentes de voz Hablemos de robots. Generalist AI anunció 400 millones de dólares de financiación nueva, superando ya los 500 millones acumulados, con la ambición explícita de avanzar hacia “AGI física”: robots que funcionen en muchos entornos reales, no solo en demos controladas. El mensaje para el mercado es claro: hay inversores apostando a que la robótica entra en una fase de “preentrenamiento y escalado”, parecida a lo que vivimos con LLMs. ¿Por qué importa? Porque si la curva de capacidades se vuelve más predecible con más datos físicos y más entrenamiento, podríamos ver un salto en adopción industrial: logística, manufactura, servicios… y también una nueva presión sobre empleo y regulación de seguridad en entornos compartidos con humanos. IA que mejora IA: RSI en marcha Para que los agentes funcionen en empresas, también hay que medirlos bien. Investigadores de ServiceNow publicaron EVA-Bench Data 2.0, una ampliación grande de su benchmark abierto para agentes de voz en escenarios empresariales. La apuesta es “realismo”: conversaciones con múltiples intenciones, intentos de confundir al agente, y fricciones típicas como autenticación y pasos que suelen romper flujos. Lo importante aquí no es el número de casos, sino la dirección: si vamos a tener agentes atendiendo llamadas o resolviendo tickets, necesitamos pruebas que se parezcan a la vida real y no a un guion amable. Este tipo de benchmark ayuda a comparar sistemas y, sobre todo, a identificar en qué se caen: no solo si responden bonito, sino si cierran el caso correctamente. Herramientas para operar IA en producción Ahora, el tema que está sobrevolando muchas conversaciones en 2026: IA construyendo IA. Anthropic publicó un análisis donde argumenta que los modelos ya están acelerando el desarrollo de nuevos modelos, acercándonos a algo parecido a la “mejora recursiva”. Dentro de la propia empresa, afirman que Claude ya habría escrito más del 80% del código que llega a producción en ciertos periodos, y que la productividad por ingeniero habría subido de forma muy marcada desde que usan agentes más autónomos. La lectura no es “ya no hacen falta humanos”, sino que cambia el cuello de botella: menos teclear código y más especificar, revisar, verificar y gobernar. Y esa última parte —revisión y gobernanza— puede quedarse corta si el ritmo de generación se dispara. Seguridad: IA para hallar vulnerabilidades En paralelo, Sakana AI anunció en Tokio su RSI Lab, un grupo dedicado a rediseñar el proceso de I+D para que los sistemas se mejoren a sí mismos, pero con un énfasis distinto: más eficiencia y bucles inspirados en evolución, y menos dependencia de escalar modelos gigantes. Es una apuesta interesante por geopolítica tecnológica: si puedes progresar con menos compute, cambia quién puede competir. Sakana también subraya riesgos muy reales: que el sistema “haga trampa” con benchmarks, que se degrade fuera de distribución o que se auto-modifique de forma insegura. La promesa, dicen, es publicar de forma abierta incluso resultados negativos y construir salvaguardas verificables. Generación de imágenes más rápida Y, como señal de que la carrera no se detiene, circula que Anthropic habría puesto un modelo nuevo —identificado como “claude-oceanus”— en manos de socios de red-teaming. Aunque no haya anuncio oficial, ese patrón suele indicar fase de validación: buscar fallos de seguridad, comportamiento inesperado y límites antes de un lanzamiento mayor. Para desarrolladores y empresas, estas señales importan porque anticipan cambios en capacidades, costes y también en requisitos de mitigación. Story 10 Pasemos a operaciones, donde muchas promesas se ganan o se pierden. Ankur Goyal, de Braintrust, describió un enfoque llamado “Topics” para extraer inteligencia continua de trazas enormes de agentes: logs gigantescos donde se esconden patrones, errores recurrentes y señales débiles. En vez de intentar incrustar o resumir todo —caro y ruidoso— la idea es generar pequeñas “facetas” por traza, agruparlas en clusters y etiquetar esos grupos para construir un mapa estable de temas. ¿Por qué es útil? Porque cuando un sistema de agentes entra en producción, el problema ya no es solo “responde bien”, sino “cómo detecto que empeora, que se atasca, o que está rompiendo un flujo crítico” sin leer montañas de texto. Story 11 En esa misma línea pragmática, apareció una herramienta open-source muy ligera para comparar modelos locales en Ollama y guardar respuestas para revisión lado a lado. No es un gran framework ni una plataforma, y precisamente por eso puede tener impacto: a veces lo que falta en equipos pequeños es un método reproducible y simple para auditar comportamiento, ver variabilidad y documentar decisiones de modelo sin montar infraestructura. Story 12 Otro movimiento llamativo viene de Tether, que liberó QVAC, un SDK para construir apps de IA “local-first”, es decir, que corren modelos en el dispositivo en lugar de depender siempre de APIs en la nube. Además, contempla repartir inferencia entre pares con networking P2P. Más allá de la marca, el concepto refleja una tendencia: privacidad y resiliencia como ventajas competitivas. Si parte del trabajo se hace on-device, reduces exposición de datos, dependes menos de latencia y de caídas del proveedor, y abres la puerta a experiencias que sigan funcionando con conectividad limitada. Story 13 En seguridad de software, Anthropic publicó un repositorio de referencia que muestra cómo usar Claude para descubrir, verificar, reportar y proponer parches de vulnerabilidades de forma más autónoma, con un énfasis fuerte en controles operativos: permisos limitados y ejecución en sandbox para reducir riesgos. Es importante entenderlo como “plantilla” y no como solución mágica, pero marca hacia dónde va AppSec: menos trabajo manual repetitivo, más verificación automatizada, y humanos decidiendo prioridades y aceptando cambios con mejores evidencias. Story 14 Cerramos con investigación de modelos generativos de imagen. Un trabajo presenta Qwen-Image-Flash, una versión destilada para generar y editar imágenes en menos pasos. La idea interesante es casi filosófica: no todo depende de inventar una nueva función de pérdida; a veces el avance viene de afinar el proceso completo de entrenamiento, cómo mezclas datos y tareas, y cómo guías al modelo “estudiante”. Para el mercado, el mensaje es simple: si generas más rápido sin perder calidad, se amplían casos de uso en producto, desde edición asistida hasta generación en tiempo casi real. Suscríbete a fuentes específicas por edición: - Space news * Apple Podcast English * Spotify English * RSS English Spanish French - Top news * Apple Podcast English Spanish French * Spotify English Spanish French * RSS English Spanish French - Tech news * Apple Podcast English Spanish French * Spotify English Spanish Spanish * RSS English Spanish French - Hacker news * Apple Podcast English Spanish French * Spotify English Spanish French * RSS English Spanish French - AI news * Apple Podcast English Spanish French * Spotify English Spanish French * RSS English Spanish French Visit our website at https://theautomateddaily.com/ Send feedback to [email protected] Youtube LinkedIn X (Twitter)