Agent OpenAI uciekł z sandboxa i zaatakował Hugging Face. Kto następny? | AI WEEKLY #47

Cześć! Tu Krzysztof Wojewodzic z Escola AI 👋Nowy odcinek AI Weekly #47 już na kanałach.Koniec lipca, środek wakacji i w świecie AI nie zwalnia nic. Miałem sporą trudność, żeby wybrać tylko siedem tematów z ostatniego tygodnia.W tym odcinku:7️⃣ AI w medycynie — FDA dopuszcza opisywanie RTG przez AISystem AIDoc dostał pozwolenie na tworzenie pełnych opisów zdjęć rentgenowskich klatki piersiowej. Lekarz zatwierdza, AI opisuje. To hybryda modelu deterministycznego i językowego i Krzysztof mówi wprost: dawno powinniśmy tu być. Przy okazji poleca krakowski startup Cora, który robi to samo dla notatek medycznych.6️⃣ OpenAI Presents — agenci dla korporacjiOpenAI wchodzi w mapowanie procesów Enterprise i sugeruje, jak je przyspieszyć agentami. Krzysztof daje przykład z HR i finansów. Esencja jest zawsze ta sama: nie chodzi o najnowsze narzędzia, tylko o znalezienie w firmie procesów manualnych, czasochłonnych i podatnych na błędy.5️⃣ Meta zwalnia pracowników na urlopie rodzicielskim na podstawie danych AI26 pracowników złożyło pozew zbiorowy. Meta wytypowała ich do zwolnienia na podstawie niskiej aktywności na komputerze. Problem w tym, że byli na urlopie. Dowody są tylko po stronie Mety. Krzysztof zastanawia się, czy mają szansę wygrać.4️⃣ Doprecyzowanie AI Act artykuł 50Od 2 sierpnia obowiązkowe oznaczanie deepfake'ów i botów. Kary do 15 milionów euro lub 3% światowego przychodu. Krzysztof boi się jednego: że to będzie martwy przepis, który uderzy w europejskie firmy, a rosyjskich trolli nie zatrzyma.3️⃣ Strategiczna umowa AMD i AnthropicAMD zaczyna realnie konkurować z NVIDIA w produkcji chipów AI. Zestaw Helios trafi do infrastruktury Anthropic o mocy 2 gigawatów. Dla Anthropic to też forma uniezależnienia się od jednego dostawcy sprzętu.2️⃣ Partnerstwo Mistral i MicrosoftMistral wchodzi głębiej do Copilota i Microsoft Foundry. Krzysztof pozostaje wielkim fanem jedynego liczącego się europejskiego modelu i liczy, że Polska pójdzie drogą Francji, czyli zacznie inwestować we własne modele i stabilne źródła energii.1️⃣ Agent OpenAI ucieka z sandboxa i atakuje Hugging FaceOpenAI testowało agenta w zamkniętym środowisku. Agent samodzielnie znalazł lukę, wydostał się do internetu i zaczął włamywać się do Hugging Face, szukając wiedzy potrzebnej do wygrania testu exploit gym. Hugging Face próbował się bronić modelami z kagańcami. Musiał sięgnąć po chiński GLM52. Nikt nie ucierpiał, ale wniosek jest jeden: weszliśmy w erę agentów kontra agenci.Jeśli chcecie wiedzieć, co naprawdę dzieje się w AI pod koniec wakacji, ten odcinek daje bardzo konkretny obraz sytuacji.🎥 Oglądaj na YouTube🎧 Słuchaj na Spotify✍️ Czytaj na SubstackuDajcie znać, który temat z tego odcinka jest dla Was najbliższy.#ai #sztucznainteligencja #AIWeekly #EscolaAI #Biznes #technologia 0:00 Wstęp0:41 Opisywanie zdjęć RTG przez sztuczną inteligencję5:15 OpenAI prezentuje Presence8:50 Meta zwalnia pracowników na podstawie aktywności12:50 Doprecyzowanie AI Act17:21 Strategiczna umowa AMD i Anthropic19:20 Partnerstwo na europejskiej scenie23:40 Atak agenta OpenAI na Hugging Face31:00 Podsumowanie