🦞 Założyciel OpenClaw, Steinberger, dołącza do OpenAI, bot open-source staje się fundacją ↗
Peter Steinberger zmierza do OpenAI, aby promować „osobistych agentów”, podczas gdy sam OpenClaw zostaje umieszczony w fundacji, aby pozostać otwartym oprogramowaniem (i być wspieranym). Ten podział jest… całkiem sprytny – zatrudnij twórcę, a projekt pozostanie publiczny.
Pomysł OpenClaw jest orzeźwiająco praktyczny: segregacja poczty e-mail, formalności ubezpieczeniowe, odprawy na loty, irytujące zadania administracyjne. Pojawił się też na GitHubie, a ta popularność wywołała obawy dotyczące bezpieczeństwa, zwłaszcza jeśli ludzie korzystają z niego nieostrożnie.
🪖 Pentagon „ma dość” sprzeciwu Anthropic wobec wykorzystania przez wojsko modelu Claude AI i może zerwać powiązania, podaje raport ↗
Sedno sporu: Pentagon chce szerokiego, „do wszystkich legalnych celów” dostępu, a Anthropic wciąż stara się utrzymać sztywne ograniczenia dotyczące w pełni autonomicznej broni i masowego nadzoru. To rodzaj sporu, który brzmi filozoficznie, dopóki ktoś nie powie: „możemy cię zastąpić”
Jeden niedoceniany szczegół – urzędnicy nie chcą, aby model nagle blokował przepływy pracy w trakcie ich realizacji, ani nie chcą negocjować przypadków brzegowych w nieskończoność (sprawiedliwie… ale też cholera). Istnieje tu realne napięcie związane z tym, kto trzyma klucze, i nie jest ono subtelne.
🧠 Model tworzenia startupu do przewidywania zachowań człowieka ↗
Simile pozyskało 100 milionów dolarów na zbudowanie modelu „o ograniczonej nauce”, którego celem jest przewidywanie potencjalnych zachowań ludzi – w tym, bardzo szczegółowo, przewidywanie prawdopodobnych pytań podczas rozmów o wynikach finansowych. Wąski cel, duże ambicje, nieco dziwaczna kombinacja.
Podejście to opiera się na wywiadach z prawdziwymi ludźmi i danych z badań behawioralnych, a następnie przeprowadza symulacje z agentami AI, które mają odzwierciedlać rzeczywiste preferencje. To jak stworzenie modelu pogody dla ludzkich decyzji… co brzmi niemożliwie, dopóki nie jest niemożliwe.
🧑⚖️ Nowość: Biały Dom naciska na ustawodawcę stanu Utah, aby odrzucił projekt ustawy o przejrzystości AI ↗
Działania na rzecz transparentności sztucznej inteligencji na poziomie stanowym w stanie Utah spotykają się z krytyką Białego Domu, a urzędnicy apelują do sponsora ustawy, aby nie procedował nad nią. W projekcie ustawy chodzi przede wszystkim o transparentność i bezpieczeństwo dzieci – trudno się z tym nie zgodzić, patrząc z czysto wizualnego punktu widzenia.
Ale większa walka toczy się o jurysdykcję: kto ustala zasady, stany czy rząd federalny. I tak, to jest kłótnia – jak dwie osoby chwytające za tę samą kierownicę i upierające się, że to one są spokojniejsze.
🎬 ByteDance zobowiązuje się do zapobiegania nieautoryzowanemu korzystaniu z IP w narzędziu do tworzenia filmów AI po groźbie ze strony Disneya ↗
Disney zażądał zaprzestania działalności w związku z generatorem wideo AI firmy ByteDance, a ByteDance twierdzi, że wzmacnia zabezpieczenia, aby zapobiec nieautoryzowanemu wykorzystaniu własności intelektualnej i podobizny. Skarga – rzekomo – dotyczy tego, że narzędzie potrafi wypluwać znane postacie z serii, jakby były po prostu… naklejkami z domeny publicznej.
To zderzenie, którego wszyscy się spodziewali: wirusowe narzędzia wideo oparte na sztucznej inteligencji szybko się rozwijają, studia wszczynają spory sądowe, a „dodamy zabezpieczenia” staje się domyślnym językiem przeprosin. W pewnym momencie technologia wygląda jak magia, a strona prawna jak grawitacja.
Często zadawane pytania
Co oznacza fakt, że założyciel OpenClaw dołączył do OpenAI, a OpenClaw przekształcił się w fundację?
Sygnalizuje to podział między osobą budującą „agentów osobistych” a projektem pozostającym pod publiczną kontrolą. Steinberger, dołączając do OpenAI, sugeruje, że skoncentruje się tam na rozwijaniu produktów w stylu agentów. Umieszczenie OpenClaw w fundacji ma na celu utrzymanie go jako oprogramowania open source i zapewnienie zrównoważonego wsparcia. W praktyce posunięcie to ma na celu zachowanie zaufania społeczności, podczas gdy twórca projektu będzie podążał tam, gdzie są zasoby.
Dlaczego agenci AI w stylu OpenClaw skupiają się na takich zadaniach, jak poczta e-mail i papierkowa robota?
Ponieważ praca „administracyjna” jest powtarzalna, oparta na regułach i czasochłonna, co czyni ją praktycznym celem automatyzacji. Przykłady – selekcja e-maili, formalności ubezpieczeniowe i odprawy lotnicze – to wąskie zadania z jasnymi kryteriami sukcesu. Takie skupienie może sprawić, że agenci poczują się wartościowi szybciej niż asystenci o bardziej otwartym profilu. Podkreśla to również, dlaczego staranna kontrola dostępu ma znaczenie, gdy agenci mają dostęp do kont osobistych.
W jaki sposób można wdrożyć agenta sztucznej inteligencji typu open source, takiego jak OpenClaw, nie stwarzając problemów bezpieczeństwa?
Traktuj go jak oprogramowanie, które może odczytywać wrażliwe dane, a nie jak skrypt-zabawkę. Powszechnym podejściem jest blokowanie uprawnień, ograniczanie uprawnień do niezbędnego minimum oraz prowadzenie dzienników i ścieżek audytu. Uruchamiaj go w ograniczonym środowisku i oddziel od systemów o wysokiej wartości. Wiele obaw o bezpieczeństwo wynika z nieostrożnego wdrożenia, zwłaszcza gdy użytkownicy ujawniają punkty końcowe lub tokeny bez solidnych zabezpieczeń.
Dlaczego Pentagon jest niezadowolony z ograniczeń firmy Anthropic dotyczących wykorzystania Claude'a w celach wojskowych?
Spór koncentruje się na zakresie i kontroli: Pentagon domaga się szerokiego dostępu „do wszystkich legalnych celów”, podczas gdy Anthropic jest opisywany jako firma utrzymująca sztywne ograniczenia dotyczące w pełni autonomicznej broni i masowego nadzoru. Urzędnicy nie chcą również, aby modele blokowały przepływy pracy w trakcie ich realizacji lub wymagały niekończących się negocjacji w skrajnych przypadkach. To napięcie jest mniej abstrakcyjne, niż się wydaje – chodzi o to, kto decyduje, co model może zrobić w rzeczywistych operacjach.
W jaki sposób startupy próbują przewidywać ludzkie zachowania za pomocą sztucznej inteligencji i dlaczego budzi to kontrowersje?
W tym przykładzie, Simile, zastosowano model „ograniczonego uczenia się”, którego celem jest prognozowanie potencjalnych zachowań ludzi, w tym przewidywanie prawdopodobnych pytań w kontekstach takich jak telekonferencje dotyczące wyników finansowych. Opisane podejście łączy wywiady z danymi z badań behawioralnych i symulacjami z wykorzystaniem agentów AI, które mają odzwierciedlać rzeczywiste preferencje. Wydaje się to dziwne, ponieważ AI przesuwa się od reagowania na zachowania ludzi do ich prognozowania. Wyzwaniem jest ograniczenie twierdzeń i unikanie nadmiernej pewności siebie.
Co się stanie, gdy narzędzia wideo oparte na sztucznej inteligencji wygenerują postacie chronione prawami autorskimi, jak w przypadku konfliktu ByteDance–Disney?
Zgłaszany schemat jest znajomy: studio wydaje nakaz zaprzestania działalności, a platforma reaguje, wzmacniając zabezpieczenia, aby zapobiec nieautoryzowanemu wykorzystaniu własności intelektualnej lub podobizny. W wielu narzędziach zabezpieczenia oznaczają ściślejsze filtry treści, lepsze wykrywanie rozpoznawalnych znaków i bardziej przejrzyste egzekwowanie zasad dotyczących użytkowników. Podstawowy konflikt to szybkość kontra odpowiedzialność – generowanie wirusów postępuje szybko, a egzekwowanie praw działa jak grawitacja. Spodziewajmy się więcej takich kolizji wraz z upowszechnianiem się generatorów wideo.