Голова Комісії з цінних паперів та бірж (SEC) Гері Генслер раніше попереджав, що штучний інтелект (AI) може призвести до наступної фінансової кризи. Генслер знову розповів про цю тему під час віртуального діалогу, організованого неприбутковою адвокаційною організацією "Громадянин" 17 січня.
Генслер глибоко розповів про те, як штучний інтелект може маніпулювати ринками та інвесторами, попереджаючи про "AI washing", перекручення алгоритмів та багато іншого. Зауваженням ведучого панелі, Генслер уточнив, що він буде говорити тільки про традиційні фінансові ринки. Це стало очевидним після того, як ведучий запитав Генслера, чи "стовпив" він термін "AI Washing", на що Генслер відповів: "Ну, ви сказали „стовпити", а сьогодні ми не обговорюємо криптовалюту".
Компанія Генслер попереджає про шахрайство та маніпуляцію штучним інтелектом.
Потім Генслер пояснив, що AI washing відноситься до зацікавленості інвесторів або працівників, яка виникає при висуненні претензій щодо нової технологічної моделі. "Якщо емітент збирає гроші від громадськості або просто подає звіти щоквартально, він повинен бути правдивим у цих заявках", - сказав він. За словами Генслера, Комісія з цінних паперів і бірж (SEC) прийшла до висновку, що коли з'являються нові технології, емітенти повинні бути правдивими щодо своїх заяв, розкриваючи ризики, а також те, як ці ризики керуються та ліквідуються.
Голова Комісії з цінних паперів та бірж США також зауважив, що оскільки штучний інтелект вбудовується в структуру фінансових ринків, необхідно забезпечувати способи переконатися, що люди, які стоять за цими моделями, не вводять громадськість в оману. "Шахрайство - це шахрайство, і люди будуть використовувати штучний інтелект, щоб обдурити громадськість, використовуючи глибокий фейк або інші методи. Все ще порушує закон не дезінформувати громадськість у цьому відношенні", - сказав Генслер.
Генслер додав, що штучний інтелект винен у фейковому блозі, в якому оголошувалася його відставка у липні 2023 року. Найостанніше, офіційний обліковий запис X в СЕК пов'язали з фейковою новиною про затвердження обмінного фонду на біткоїни (ETF), на що Генслер вважає системним вторгненням, а не дією штучного інтелекту.
Акаунт @SECGov у Twitter було піддано вторгненню, і було опубліковано несанкціонований твіт. Комісія SEC не затвердила лістинг та торгівлю продуктами обміну біткоїнів за місцевою ціною. — Гарі Генслер (@ГаріГенслер) 9 січня 2024 р.
Крім того, Генслер зазначив, що штучний інтелект дозволяє нову форму "нішевого трансляції". За словами Генслера, нішеве транслювання дозволяє системам, що підтримуються штучним інтелектом, спрямовувати свої зусилля на конкретних осіб на основі даних з підключених пристроїв. Хоча це не повинно бути сюрпризом, Генслер попередив, що якщо система ставить інтерес робо-консультанта чи брокера перед інтересом інвестора, виникає конфлікт.
Такі питання також можуть викликати занепокоєння стосовно упередженості алгоритмів. За словами Генслера, штучний інтелект може використовуватись для вибору таких речей, як які резюме читати під час подачі заявок на роботу, або кому може бути надано фінансування при покупці житла. Маючи це на увазі, Генслер вказав, що дані, що використовуються алгоритмами, можуть відображати упередженості суспільства. Він зазначив:
В штучному інтелекті закладені кілька складнощів через нестямне бажання до даних, поєднане з багатовимірною обчислювальною роботою. Математика, що стоїть за цим, робить важким пояснення кінцевих рішень алгоритму. Він може передбачати, хто має кращу кредитну історію, або передбачати ринок в один чи інший спосіб та як цінувати продукти по-різному. Але що, якщо це також пов'язано з расою, статтю або сексуальною орієнтацією людини? Це не те, що ми хочемо, і це навіть заборонено.
Хоча це становить виклик, Генслер зауважив, що це буде вирішено з часом через те, що люди встановлюють гіперпараметри для алгоритмів. Наприклад, Генслер відзначив, що індивіди повинні взяти на себе відповідальність за розуміння причин того, чому алгоритми на основі штучного інтелекту поводяться певним чином. "Якщо люди не можуть пояснити, то які відповідальності виникають у вас як групи людей, що впроваджуєте модель, щоб розуміти вашу модель? Я думаю, що це відбудеться протягом кількох років і, в кінцевому рахунку, вплине на судову систему", - сказав Генслер.
Централізована штучна інтелектуалізація становить ризик для фінансового сектору в цілому.
Підводячи підсумки, Генслер висловив думку, що він вважає, що штучний інтелект сам по собі є позитивним для суспільства, разом з ефективністю та доступом, який він може забезпечити на фінансових ринках. Однак, Генслер попередив, що одним із найбільших потенційних ризиків, який треба враховувати при роботі зі штучним інтелектом, є централізація. "Справа в тому, що у штучного інтелекту все, що стосується його, має схожу економіку мереж, що сприяє його тенденції до централізації. Я вважаю неухильним, що ми матимемо кілька великих моделей та агрегаторів даних, які будуть вміщуватися на пальцях одної руки", - він сказав.
Внаслідок залучення обмеженої кількості великих моделей та агрегаторів даних, Генслер вважає, що ймовірно виникне "монокультура". Це може значити, що сотні або тисячі фінансових учасників можуть покладатися на централізовані дані або центральну модель штучного інтелекту. Генслер також вказав на те, що фінансові регулятори не мають контролю над центральними вузлами. Він сказав:
Весь фінансовий сектор буде так чи інакше залежати від центральних вузлів, і якщо ці вузли помиляться, монокультура буде розвиватися в одному напрямку. Це створює ризик для суспільства і для фінансового сектору в цілому.
Генслер додав, що він буде продовжувати підняття свідомості серед своїх міжнародних колег про виклики штучного інтелекту та його ймовірний вплив на традиційні фінансові системи. "Свідомість зростає, але я буду залишатися на своєму теоретичному полі фінансових послуг та цінних паперів", - сказав він.
