Технічний аналітичний центр, пов’язаний із компаніями штучного інтелекту, написав замовлення Байдена щодо штучного інтелекту

Корпорація RAND, впливовий міжнародний аналітичний центр, відіграла ключову роль у розробці нового указу президента Байдена щодо регулювання ШІ.

За словами дослідника штучного інтелекту та внутрішнього запису RAND, RAND розширив широкі вимоги до звітності для потужних систем штучного інтелекту, щоб зменшити катастрофічні ризики.

Ці пріоритети збігаються з пріоритетами Open Philanthropy, групи, фінансованої співзасновником Facebook Дастіном Московіцем, яка цього року пожертвувала RAND понад 15 мільйонів доларів.

Відкрита філантропія пропагує «ефективний альтруїзм», ідеологію, яку прославив опальний засновник FTX Сем Бенкман-Фрід, яка використовує філантропію на основі даних, щоб зосередитися на спекулятивних загрозах ШІ, як-от розробці біозброї.

Прихильники ефективного альтруїзму вважають, що він надає пріоритет глобальним проблемам і втручанням, які можуть позитивно вплинути на життя зараз і в майбутньому.

Ефективні альтруїсти покладаються на науку та раціональність, щоб спрямувати свій альтруїзм і філантропію на ефективні справи, які зменшують страждання.

Компанії зі штучним інтелектом, такі як Anthropic, були засновані на принципах ефективного альтруїзму та використовували їх для навчання свого чат-бота зі штучним інтелектом на ім’я Клод.

Open Philanthropy має тісні зв’язки з керівними групами Anthropic і OpenAI.

Критики стверджують, що ефективний альтруїзм служить технологічним компаніям, відволікаючи їх від поточної шкоди штучного інтелекту, як-от расові упередження.

Генеральний директор RAND і старший науковий співробітник мають зв’язки з адміністрацією Байдена і раніше працювали в OSTP Білого дому та Раді національної безпеки.

RAND підтвердила, що її персонал, у тому числі вчений Джефф Алстотт, допоміг розробити розпорядження.

Це викликає занепокоєння щодо планів технічних мільярдерів, які переважують існуючі виклики штучного інтелекту, оскільки Білий дім розраховує на RAND за вказівками щодо регулювання технології.

Однак саме ці технологічні мільярдери були одними з перших, хто закликав до державного нагляду за ШІ.