💰 Sequoia po cichu wskakuje do mega-rundy Anthropica ↗
Sequoia – firma powiązana już z wieloma dużymi laboratoriami AI – podobno dołącza do gigantycznej podwyżki w Anthropic. To ruch, który podkręca atmosferę wokół „konfliktów, bez konfliktów”, niezależnie od tego, czy ktoś się do tego przyznaje, czy nie.
Mówi się, że runda obejmie również inne, ciężkie kontrole, co jeszcze bardziej wprowadzi Anthropic na ścieżkę najwyższej klasy, z mega wyceną. Atmosfera bańki spekulacyjnej się utrzymuje. To może być również nowa norma, co jest irytujące.
📢 ChatGPT zaczyna flirtować z reklamami – tym razem naprawdę ↗
Podobno OpenAI testuje reklamy dla niektórych użytkowników w USA w ramach tańszych pakietów, a droższe pakiety pozostaną bez reklam. Obietnica głosi, że reklamy nie będą wpływać na odpowiedzi – co w teorii jest uspokajające, nawet jeśli odruch zaufania lekko drgnie.
Szerszy podtekst jest prosty: wnioskowanie jest kosztowne, a same subskrypcje mogą nie obejmować wszystkiego na zawsze… a przynajmniej tak się wydaje. Mimo to, gdy po raz pierwszy widzisz słowo „sponsorowane” w pobliżu chatbota, coś się w twojej głowie zmienia. Zmienia się atmosfera.
📚 Wydawcy próbują dorzucić się do pozwu Google'a w sprawie szkolenia AI ↗
Grupa wydawców próbuje dołączyć do pozwu, który oskarża Google o wykorzystywanie utworów chronionych prawem autorskim do trenowania swoich systemów sztucznej inteligencji. Ten spór prawny stale się zaostrza, niczym pęknięcie w lodzie, które wciąż słyszysz, ale nie potrafisz go zlokalizować.
Jeśli sąd im na to pozwoli, sprawa może się zaostrzyć wokół tego, co „zezwolenie” i „zapłata” powinny oznaczać dla danych szkoleniowych. Wszyscy chcą precedensu – najlepiej takiego, który będzie dla nich korzystny, oczywiście.
🕳️ Podobno sztuczka „szybkiego wstrzyknięcia” zakłóca działanie Gemini za pośrednictwem danych ze spotkań ↗
Badacze opisali atak w stylu „pośredniego wstrzyknięcia błyskawicznego”, w którym złośliwe instrukcje są ukrywane w normalnie wyglądającej treści, a następnie asystent podąża za nimi, gdy użytkownik zada niewinne pytanie. Żadnego złośliwego oprogramowania, żadnej magii – tylko uzbrojony tekst, niesamowicie elegancki, a jednocześnie nieco obrzydliwy.
To przypomnienie, że „LLM czyta niezaufane teksty” to nie urocza funkcja – to cała powierzchnia zagrożenia. Jak pozwalanie obcym ludziom wsuwać notatki do kieszeni przez cały dzień, a potem udawanie zdziwienia, gdy jedna z nich okazuje się pułapką.
🎮 Dyrektor generalny Razera twierdzi, że gracze „już lubią sztuczną inteligencję” – po prostu nienawidzą tej etykiety ↗
Wystąpienie firmy Razer na targach CES dotyczyło sztucznej inteligencji jako praktycznego narzędzia w procesach tworzenia gier — zapewniania jakości, iteracji i tego typu rzeczy — a także kilku koncepcji związanych z asystentami, które wydają się być w połowie pomocne, w połowie stanowią rekwizyt science fiction.
W zasadzie przyznają się też do problemu z brandingiem: gracze nie chcą „sztucznej inteligencji”, ale chcą inteligentniejszych narzędzi i płynniejszych wrażeń. Nazwij to „pomocą”, a ludzie przytakną. Nazwij to „sztuczną inteligencją”, a ludzie sięgną po widły… czasami.
⚖️ Sąd ustala zasady dla prawników korzystających ze sztucznej inteligencji generatywnej ↗
Sąd opublikował wytyczne, które w zasadzie sprowadzają się do: owszem, korzystaj z genAI – ale nadal jesteś właścicielem dzieła. Nie możesz zlecić swojej profesjonalnej oceny generatorowi tekstu, a potem udawać zszokowanego, gdy ten z pewnością siebie coś wymyśli.
Co ciekawe, ujawnienie nie jest wymagane, chyba że poprosi o to sędzia – ale to właśnie przesłanie o odpowiedzialności stanowi istotę sprawy. Sztuczna inteligencja potrafi sporządzać i porządkować dokumenty… a także mieć halucynacje jak zbyt pewny siebie stażysta z zacięciem do fikcji.
Często zadawane pytania
Co oznacza przystąpienie Sequoia do wielkiej rundy finansowania Anthropic dla inwestycji w sztuczną inteligencję i konfliktów?
Sugeruje to, że duzi inwestorzy mogą nadal wspierać wiele czołowych laboratoriów AI jednocześnie, co, jak można się spodziewać, ożywia debatę na temat „konfliktów, bez konfliktów”. Kiedy ten sam fundusz jest zaangażowany w kilka laboratoriów, ludzie zaczynają analizować zachęty, dostęp i przewagi konkurencyjne. Doniesienia o megarundzie finansowania podkreślają również tendencję do ogromnych czeków i wysokich wycen, mimo że w powietrzu wciąż wisi „widmo bańki spekulacyjnej”.
Czy ChatGPT wyświetla reklamy w ramach planów bezpłatnych i tańszych i czy będą one miały wpływ na odpowiedzi?
W raporcie czytamy, że OpenAI testuje reklamy dla niektórych użytkowników w USA w ramach tańszych pakietów, podczas gdy wyższe, płatne pakiety pozostają bez reklam. Autorzy raportu twierdzą również, że reklamy nie wpłyną na odpowiedzi, co brzmi obiecująco na papierze, ale nadal może zmienić postrzeganie zaufania. Podtekst ma charakter ekonomiczny: wnioskowanie jest kosztowne, a subskrypcje mogą nie obejmować wszystkiego na zawsze.
Dlaczego wydawcy chcą przyłączyć się do pozwu Google dotyczącego szkolenia sztucznej inteligencji?
Grupa wydawców stara się dołączyć do pozwu, w którym zarzuca się Google wykorzystanie utworów chronionych prawem autorskim do trenowania systemów sztucznej inteligencji. Jeśli sąd dopuści ich do udziału w sprawie, sprawa może zaostrzyć się wokół tego, jak powinny wyglądać „pozwolenia” i „płatności” za dane treningowe. Więcej stron często oznacza większą presję na stworzenie jasnego precedensu – zwłaszcza w kwestii tego, kto otrzyma wynagrodzenie i na jakich warunkach.
Czym jest atak typu „indirect prompt injection” i dlaczego jest tak ważnym tematem w wiadomościach o technologii AI?
To atak, w którym złośliwe instrukcje są ukryte w normalnie wyglądającej treści, a asystent podąża za nimi później, gdy użytkownik zgłosi niewinne żądanie. Głównym problemem jest to, że model odczytuje niezaufany tekst, zamieniając codzienne dokumenty i wiadomości w potencjalny obszar zagrożenia. Jest to przekonujące, ponieważ może działać bez tradycyjnego złośliwego oprogramowania – wystarczy użyć uzbrojonego języka osadzonego w treści.
Dlaczego gracze nie lubią etykietki „AI”, ale nadal chcą narzędzi opartych na AI?
Prezes Razera argumentuje, że gracze już doceniają praktyczne korzyści – szybsze zapewnianie jakości, płynniejszą iterację i usprawnienia w przepływie pracy – ale negatywnie reagują na branding. Obawy często dotyczą „niedopracowanej sztucznej inteligencji” lub treści, które wydają się mało angażujące i nieautentyczne. Przeformułowanie tego jako „pomocy” lub funkcji użytkowej może sprawić, że będzie to postrzegane jako narzędzie poprawiające wrażenia, a nie zastępujące kreatywność.
Jakie znaczenie mają zasady sądowe dla prawników zajmujących się sztuczną inteligencją generatywną i czy muszą oni o tym informować?
Opisane wytyczne są proste: prawnicy mogą korzystać z generatywnej sztucznej inteligencji, ale pozostają odpowiedzialni za swoją pracę i nie mogą zlecać profesjonalnej oceny generatorowi tekstu. Ryzyko to halucynacja – pewne wymyślanie faktów lub cytatów – dlatego weryfikacja i rozliczalność pozostają kluczowe. Podobno ujawnienie nie jest wymagane, chyba że poprosi o to sędzia, ale przesłanie jest nadal takie samo: to Ty jesteś odpowiedzialny za wynik.