Nazywam się Chris Painter i jestem prezesem METR (Model Evaluation and Threat Research). Wiem, że w ciągu ostatnich kilku dni zdobyliśmy wielu nowych przyjaciół w internecie, więc pomyślałem, że skorzystam z okazji, aby przypomnieć, czym się zajmujemy i dlaczego. Nasza praca ma na celu zapewnienie, że jeśli AI naprawdę byłoby autonomiczne, trudne do kontrolowania i bliskie „zbuntowania się”, społeczeństwo się o tym dowie. Jeśli w firmie zajmującej się AI istnieją dowody na to, że traci ona kontrolę nad AI, chcemy mieć pewność, że informacje te zostaną udostępnione reszcie świata, w tym rządom i opinii publicznej poza murami firmy. Na tym skupiamy się od 2022 roku, a przez lata współpracowaliśmy z OpenAI, Anthropic, Google DeepMind, Meta, Amazon i innymi przy pilotażowych ocenach i badaniach prowadzonych przez strony trzecie tego typu. Nie mamy żadnego prywatnego pokoju, w którym bezkrytycznie zatwierdzamy coś jako „bezpieczne” lub nie. Mamy na koncie publikacje wyników dotyczących AI, które nie wpisują się jednoznacznie w etykiety „doomer” czy „akceleracjonistów”, i staramy się zatrudniać osoby o konkurencyjnych poglądach na AI. Cytowano nas za znalezienie jednych z najsilniejszych dowodów na szybki rozwój zdolności AI (nasza praca mierząca „horyzonty czasowe” AI), a jednocześnie przedstawiliśmy jedne z najsilniejszych dowodów, że w różnych momentach możliwości AI mogą być przeceniane (niektórzy mogą pamiętać nasze badanie pokazujące, że na początku 2025 roku inżynierowie oprogramowania byli faktycznie spowalniani, gdy myśleli, że są przyspieszani). METR jest finansowany z darowizn. Nie przyjmujemy pieniędzy od firm zajmujących się zaawansowaną AI. Nie płaciły nam za naszą pracę i nie przyjmujemy od nich ani od ich pracowników darowizn. Jak już wcześniej informowaliśmy, wiele firm z branży zaawansowanej AI udostępnia nam bezpłatny dostęp do swoich modeli, abyśmy mogli przeprowadzać nasze oceny, badania i prace inżynieryjne. Nasze finansowanie celowo pochodzi z szerokiego grona darczyńców, co udostępniliśmy na naszej stronie internetowej. Obecnie, gdy firma AI współpracuje z jakimkolwiek zewnętrznym oceniającym lub organizacją testującą (których jest i powinno być wiele), jest to całkowicie dobrowolne. Często wiąże się to z umowami o poufności (NDA) i redakcjami. Aby to zrównoważyć, mamy zasadę, że gdy zawieramy umowę z firmą, staramy się zachować prawo do poinformowania opinii publicznej o warunkach podpisanej umowy oraz scharakteryzowania rodzaju redakcji, które firma zdecydowała się wprowadzić. Na przykład raport z naszego niezależnego śledztwa w sprawie incydentu OpenAI-HuggingFace zawierał takie informacje. Publiczne ujawnianie jest również ważną częścią naszej polityki dotyczącej konfliktu interesów (dostępnej na naszej stronie). To nie znaczy, że nasze raporty są wystarczające jako nadzór. Jesteśmy tylko jedną organizacją (spośród wielu wykonujących świetną pracę), działającą w dobrowolnym systemie, starającą się dostarczyć opinii publicznej i światu dobre dowody na temat AI, pozwalając faktom mówić same za siebie.