🛡️ Brytyjscy regulatorzy spieszą się z oceną ryzyka związanego z najnowszym modelem sztucznej inteligencji antropicznej, donosi FT ↗
Brytyjskie organy nadzoru finansowego podobno szybko reagują na nowy model Mythos firmy Anthropic, ponieważ pojawiły się obawy, że może on ujawnić poważne słabości w kluczowych systemach. W rozmowach biorą udział Bank Anglii, FCA, Departament Skarbu oraz Narodowe Centrum Cyberbezpieczeństwa – co stanowi imponujący skład jak na jeden model przedpremierowy.
Obawy wynikają z faktu, że Mythos jest niezwykle biegły w wyszukiwaniu luk w zabezpieczeniach oprogramowania, mimo że Anthropic twierdzi, że wdrożenie jest ściśle ograniczone i ukierunkowane na działania w zakresie bezpieczeństwa defensywnego. Oczekuje się, że banki, ubezpieczyciele i giełdy otrzymają stosowne informacje, więc teraz wygląda to mniej jak plotki laboratoryjne, a bardziej jak polityka infrastrukturalna.
🤖 Na konferencji HumanX wszyscy mówili o Claude’ie ↗
Anthropic zdawał się nadawać ton HumanX – i to była cała historia. Podczas paneli, rozmów z dostawcami i na korytarzach, Claude nieustannie pojawiał się jako model, którego ludzie najbardziej poszukiwali w kontekście procesów biznesowych i kodowania.
Uwagę przykuła względna cisza wokół ChatGPT. Artykuł sugeruje, że OpenAI wciąż dysponuje skalą i kapitałem, ale atmosfera na konferencji skłaniała się ku Claude'owi jako narzędziu o większym potencjale dla przedsiębiorstw – a przynajmniej tak się wydaje.
📄 Claude for Word firmy Anthropic to kolejne wyzwanie dla imperium oprogramowania Microsoftu ↗
Firma Anthropic uruchomiła wersję beta Claude dla Worda, rozszerzając tym samym możliwości codziennego oprogramowania biurowego, zamiast ograniczać się do roli narzędzia dla programistów. Aplikacja może odpowiadać na pytania dotyczące dokumentu za pomocą klikalnych cytowań sekcji, edytować zaznaczony tekst bez naruszania formatowania oraz obsługiwać śledzone zmiany.
Grupa docelowa jest dość jasna: zespoły zajmujące się dokumentacją, zwłaszcza działy prawne i finansowe. To coś więcej niż dodatkowa funkcja – to bezpośredni atak na rodzimy rynek Microsoftu i dość bezczelny ruch.
🌐 Boty oparte na sztucznej inteligencji przeszukują sieć, a Anthropic jest na czele stawki ↗
Nowe spojrzenie na dane Cloudflare dowodzi, że firmy zajmujące się sztuczną inteligencją wydobywają z sieci znacznie więcej, niż zwracają. Kluczową statystyką jest stosunek indeksowania do odsyłania – jak często boty zeskanują strony w porównaniu z tym, jak często odsyłają użytkowników – a Anthropic wypada na tym szczególnie słabo.
Współczynnik Anthropic wynosi 8800 do 1, a OpenAI również jest wysoki, ale znacznie niższy. Sedno sprawy jest oczywiste: stara umowa internetowa polegała na indeksowaniu nas, a następnie wysyłaniu ruchu. Silniki odpowiedzi AI zachowują pierwszą część, a drugą pozwalają, by rozrzedziła się w mgłę.
⚔️ Przyjrzyjmy się eskalującemu globalnemu wyścigowi zbrojeń w dziedzinie sztucznej inteligencji, w którym USA, Chiny, Rosja i inne kraje spieszą się z budową autonomicznej broni i systemów obronnych opartych na sztucznej inteligencji ↗
Najnowsze doniesienia o wojskowym AI to nie tylko efektowne demonstracje, ale przede wszystkim strategiczne przyspieszenie. Główne mocarstwa jednocześnie promują autonomiczne i wspomagane sztuczną inteligencją systemy obronne, przez co cała sprawa przypomina sztafetę, w której wszyscy chwytają za pałeczkę i zapominają o hamulcach.
Rodzi to typowe pytania – o kontrolę, eskalację, odpowiedzialność – ale teraz nabierają one jeszcze większej wagi. Gdy sztuczna inteligencja głębiej zakorzeni się w namierzaniu, nadzorze i podejmowaniu decyzji na polu walki, „eksperymentalny” zaczyna brzmieć jak papierowa etykieta czegoś, co już działa.
🏭 Japoński SoftBank uruchamia oddział, który będzie rozwijał rodzimą sztuczną inteligencję ↗
SoftBank nawiązał współpracę z Sony, Hondą i innymi japońskimi firmami, aby stworzyć nowe przedsięwzięcie w dziedzinie sztucznej inteligencji (AI) skoncentrowane na „fizycznej sztucznej inteligencji” – modelach, które mają sterować maszynami i robotami, a nie tylko odpowiadać tekstowo. To zupełnie inna ścieżka niż typowy konkurs chatbotów, a być może nawet ciekawsza.
Ambicje są ogromne, a wysiłek podobno ma na celu stworzenie bardzo dużego modelu fundamentów i długą drogę do zastosowania przemysłowego. To po części strategia technologiczna na skalę krajową, po części lot na Księżyc, po części anime o mechach z posiedzeniami zarządu.
Często zadawane pytania
Dlaczego brytyjscy regulatorzy tak uważnie przyglądają się modelowi Mythos firmy Anthropic?
Doniesienia sugerują, że brytyjskie władze postrzegają Mythos jako potencjalne zagrożenie, ponieważ może on być niezwykle skuteczny w wyszukiwaniu luk w zabezpieczeniach oprogramowania. W dyskusjach podobno biorą udział Bank Anglii, FCA, Departament Skarbu i Narodowe Centrum Cyberbezpieczeństwa. To połączenie instytucji sygnalizuje obawy o możliwe skutki dla systemów krytycznych, szczególnie w finansach i infrastrukturze.
Czym model Anthropic Mythos różni się od standardowej wersji sztucznej inteligencji?
Obawy nie wynikają jedynie z faktu, że jest to nowy model, ale z faktu, że wydaje się on szczególnie skuteczny w defensywnych działaniach bezpieczeństwa związanych z wykrywaniem luk w oprogramowaniu. Anthropic podobno twierdzi, że dostęp jest ściśle ograniczony, co sugeruje, że wdrożenie jest przeprowadzane ostrożniej niż ma to miejsce w przypadku szerokiej premiery konsumenckiej. W praktyce sprawia to wrażenie bliższego kontrolowanej funkcji bezpieczeństwa niż standardowej aktualizacji chatbota.
Dlaczego Claude wzbudził tak duże zainteresowanie na konferencji HumanX?
Według artykułu, Claude wielokrotnie pojawiał się w panelach, rozmowach z dostawcami i nieformalnych dyskusjach jako solidna opcja dla firm i programistów. Artykuł przedstawia Anthropic jako firmę cieszącą się znaczącym zainteresowaniem wśród użytkowników korporacyjnych na tym wydarzeniu. Sugeruje również, że nastroje wokół HumanX były bardziej stonowane na ChatGPT, mimo że OpenAI nadal dysponuje dużą skalą i zasobami.
Co właściwie Claude for Word robi dla zespołów pracujących z dużą ilością dokumentów?
Opisywana tutaj wersja beta została zaprojektowana do pracy w dokumentach, a nie tylko do generowania samodzielnego tekstu. Umożliwia ona udzielanie odpowiedzi na pytania dotyczące dokumentu z cytowaniem sekcji, edycję wybranych fragmentów bez zakłócania formatowania oraz obsługę śledzonych zmian. Dzięki temu jest szczególnie przydatna dla zespołów prawnych, finansowych i innych, które potrzebują dokładnej analizy, a nie szkiców.
Co stosunek indeksowania do odsyłania mówi o botach AI i sieci?
W artykule przedstawiono ten wskaźnik jako sposób porównania, jak często firmy wykorzystujące sztuczną inteligencję indeksują strony internetowe, z częstotliwością odsyłania użytkowników. W tym ujęciu bardzo wysoki wskaźnik sugeruje ekstrakcję z niewielkim ruchem powrotnym. Antropiczne rozwiązanie jest opisane jako szczególnie słabe w tym pomiarze, co zaostrza szerszą krytykę, że wyszukiwarki odpowiedzi AI mogą osłabiać starszą wymianę internetową, polegającą na indeksowaniu w zamian za polecenia.
Dlaczego ludzie łączą postęp w dziedzinie sztucznej inteligencji zarówno z bronią autonomiczną, jak i sztuczną inteligencją?
Artykuł wskazuje na dwa powiązane ze sobą trendy: rządy przyspieszają rozwój systemów obronnych opartych na sztucznej inteligencji, a firmy takie jak SoftBank wspierają modele zaprojektowane do sterowania maszynami i robotami. Razem pokazują one, że sztuczna inteligencja wykracza poza czat i wyszukiwanie, wkraczając w fizyczne systemy, które mogą wykrywać, podejmować decyzje i działać. Rodzi to szersze pytania dotyczące kontroli, rozliczalności, zastosowań przemysłowych oraz tego, jak szybko te systemy przechodzą od fazy eksperymentalnej do operacyjnej.