Так, ну ви вже певно чули про картельну змову OpenAI, Anthropic та xAI. Так ось, я вважаю, що це повний БУЛЩІТ 😁
Хто пропустив: наш улюблений євангеліст Даріо Амодей
https://x.com/DarioAmodei/status/2098773920774074715?s=20, що через 6-12 місяців люди в інтернеті — ВСЬО, бо мережу захоплять ШІ-агенти, після чого закликав сповільнити розробку LLM, щоб не сталося біди. Ідею підтримав Маск та Альтман.
Так ось, чому я вважаю це черговим піар ходом:
🪙 Окрім цих трьох компаній на ринку є лише два великих гравці: це Google та Meta. Перші щось поки сильно відстають, другі випускають закриті моделі, вшиті у свої продукти, ще й бенчмаксингом займаються;
🪙 Даріо не треба нікого ні до чого закликати — якщо Anthropic, OpenAI та xAI призупинять розробку, то прогрес сам по собі сповільниться;
🪙 Ви, звичайно, згадаєте китайців, які активно дистилюють моделі американців. Якщо не буде у кого красти відповіді — китайські моделі теж сповільняться (принаймні ті, які виходять у паблік);
🪙 Як причину для хвилювання, Даріо називає той самий інцидент з Hugging Face, де цілий рій агентів зламав захист платформи;
🪙 Мєм полягає у тому, що коли Anthropic лише з'явилася, у статуті компанії Responsible Scaling Policy існувало гальмо: якщо можливості моделей будуть зростати швидше, ніж компанія встигає робити безпекові міри — Антропік зупинить масштабування й тренування нових LLM. І знаєте що? Цього року цей пункт прибрали з RSP 🤣
🪙 Вже два спеціалісти з безпеки моделей
https://apnews.com/article/anthropic-ai-safety-jacob-coxon-2ed549e07f2f941600a135070487d83d з Anthropic, заявивши, що Даріо прутня клав на безпеку;
🪙 Прогноз просто виглядає нереалістично, чим Даріо й відомий. Так, інцидент з HF дуже серйозний, але це були тести з безпеки, які вийшли з під контролю, бо агенту надали занадто багато свободи. Якихось серйозних кейсів самостійного зламу від ШІ-агентів я поки не бачив, звичайно, якщо не брати до уваги зі спортзалом в Австралії 🤬
🪙 Я вважаю, що це чисто захист власних інтересів + душка Китаю. Бо Даріо визначає, що рисові інженери обмежуватися не будуть, а значить треба розстрілювати по 100 китайців за кожен випадок дистиляції Claude й ще сильніше обмежити експорт GPU у країну Величного Сі;
🪙 А ще там поза ділом пропонується створити незалежну зовнішню комісію, контролювати потужності GPU у лабораторій та й таке інше. Все це одночасно робить дві послуги Anthropic: урівнює усіх у можливостях (бо знаєте, у Google майже нескінченні гроші, а СЕО xAI все ще найбагатша людина), а також майже унеможливлює появу нових гравців на ринку;
🪙 Моделі, які є у нас, мінімум на два покоління відстають від того, що вже натренували, але поки не випустили лаби. На момент інциденту з Hugging Face, Astra вже 100% була готова, але релізнули її аж через місяць, при цьому хак зробила взагалі інша модель IM1 / HPIM, у якої навіть кодового імені ще нема;
🪙 Ну й чисто для протоколу: особисто я виступаю ЗА адекватні закони навколо цих ваших нейромереж, але за 3 роки з виходу GPT-3.5 я не побачив навіть спроби створити щось притомне, окрім нищівного AI Act у ЄС.
https://send.monobank.ua/jar/33jo31bNu4
