Brytyjskie organy nadzoru finansowego prowadzą pilne rozmowy z rządową agencją ds. cyberbezpieczeństwa i dużymi bankami, aby ocenić ryzyko, jakie stwarza nowy model sztucznej inteligencji o nazwie Anthropic – donosi FT.
Przedstawiciele Banku Anglii, Urzędu Nadzoru Usług Finansowych i Ministerstwa Skarbu prowadzą rozmowy z Narodowym Centrum Cyberbezpieczeństwa, aby wspólnie zbadać potencjalne luki w zabezpieczeniach krytycznych systemów informatycznych, które zostały zidentyfikowane przez sieć neuronową.
W publikacji zauważono, że w ciągu najbliższych dwóch tygodni największe instytucje finansowe, firmy ubezpieczeniowe i giełdy otrzymają informacje o zagrożeniach cybernetycznych związanych z Claude Mythos.
Obawy dotyczące sztucznej inteligencji
Nowa sieć neuronowa okazała się tak potężna, że twórcy zrezygnowali z jej publicznego udostępnienia. Zamiast tego uruchomiono Project Glasswing, inicjatywę mającą na celu przetestowanie narzędzia w kontrolowanym środowisku z udziałem AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia i Palo Alto Networks.
Powodem do obaw był fakt, że w ciągu zaledwie kilku tygodni Mythos odkrył tysiące luk typu zero-day w najpopularniejszych systemach operacyjnych i przeglądarkach internetowych.
Skala potencjalnego zagrożenia skłoniła sekretarza skarbu USA Scotta Bessanta i prezesa Rezerwy Federalnej Jerome'a Powella do zwołania nadzwyczajnego spotkania z kadrą kierowniczą Wall Street. Urzędnicy ostrzegli czołowych menedżerów, w tym prezes Citigroup Jane Fraser i prezesa Goldman Sachs Davida Solomona, że uruchomienie Mythos zapoczątkowało nową erę w cyberbezpieczeństwie.
Bank Kanady i największe instytucje finansowe kraju spotkały się również, aby „ocenić ryzyko systemowe związane z pojawieniem się tak zaawansowanego modelu sztucznej inteligencji”. Inicjatywa ma na celu „zwiększenie odporności operacyjnej kluczowego sektora finansowego kraju”.
Nadmuchać szum medialny?
Serwis TechCrunch zauważył, że ograniczenie dostępu do Mythos może być częścią kampanii marketingowej mającej na celu zwrócenie uwagi na nowy model sztucznej inteligencji.
W marcu Dan Lahav, szef Irregular, specjalizującego się w sztucznej inteligencji startupu, podkreślił, że choć automatyczne skanowanie luk w zabezpieczeniach odgrywa ważną rolę, to rzeczywiste korzyści płynące z odkrycia „luki” dla hakerów zależą od wielu czynników.
Firma Anthropic twierdzi, że Mythos jest w stanie wykorzystać szerszy zakres luk w zabezpieczeniach niż Opus, ale nie jest jasne, czy ten program LLM jest rzeczywiście idealnym rozwiązaniem z punktu widzenia cyberbezpieczeństwa.
Startup Aisle twierdzi, że udało mu się powtórzyć większość osiągnięć Mythos, wykorzystując inne sieci neuronowe. Według firmy nie ma jednego modelu cyberbezpieczeństwa — wybór narzędzia zawsze zależy od konkretnego zadania.
Jednym z powodów, dla których wiodące laboratoria zajmujące się sztuczną inteligencją mogą celowo ograniczać udostępnianie oprogramowania, jest możliwość zawarcia wyłącznych umów z dużymi przedsiębiorstwami, utrudniając jednocześnie konkurencji kopiowanie narzędzi poprzez ich dystrybucję.
„To chwyt marketingowy mający na celu ukrycie faktu, że najlepsze modele są teraz dostępne jedynie w ramach umów korporacyjnych i nie są już przekazywane małym laboratoriom do testów” – zauważył dyrektor generalny exe.dev David Crawshaw.
Dodał, że gdy Mythos zostanie otwarty dla publiczności, nowy, innowacyjny program LLM będzie dostępny wyłącznie dla klientów korporacyjnych. Takie podejście pomaga utrzymać przepływ funduszy i ogranicza firmy, które destylują algorytmy.
Antropiczny na pierwszej linii frontu
W ciągu ostatnich kilku miesięcy startup Anthropic znacząco poszerzył grono swoich odbiorców. Rozwiązania firmy cieszą się dużym zainteresowaniem, a przychody rosną wykładniczo.
Dziennikarze TechCrunch poinformowali, że na konferencji HumanX AI w San Francisco tysiące profesjonalistów zajmujących się sztuczną inteligencją dyskutowało na temat możliwości tej technologii, a Claude był najczęściej wymieniany jako jeden z najlepszych produktów na rynku.
O Anthropic wspominano na wielu panelach. O ChatGPT wspominano ledwie. Jeden z ekspertów zauważył, że OpenAI „wypadło z gry”.
Wielu uczestników konferencji podkreślało, że firma Sama Altmana straciła jasno określony kierunek rozwoju. Niedawny artykuł o szefie startupu dolał oliwy do ognia, opisując go jako dyktatora i oszusta, który porzucił swoją pierwotną, szlachetną misję.
Za wcześnie, żeby ukrywać OpenAI
Niedawna analiza wyników finansowych OpenAI i Anthropic wykazała, że obie firmy są „najszybciej rozwijającymi się przedsiębiorstwami w historii”.
W tym kontekście „upadek” dzieła Altmana wskazuje jedynie na to, że firma nie jest już niekwestionowanym liderem. Firma ma konkurentów – to normalne w większości branż, zauważa TechCrunch.
OpenAI ewidentnie nie zamierza stracić swojej dominacji. Firma ogłosiła nowy plan za 100 dolarów, który zapewnia szerszy dostęp do narzędzia programistycznego Codex.
Przypomnijmy, że w kwietniu Anthropic udostępnił środowisko do uruchamiania złożonych i długotrwałych zadań agentów — Claude Managed Agents.