Чат-боти під кайфом: у мережі продають коди, які імітують наркотичне сп’яніння ШІ

У мережі з’явився онлайн-майданчик, який продає коди для “наркотичного сп’яніння” чат-ботів. Модулі імітують вплив психоактивних речовин на штучний інтелект після завантаження в ChatGPT. Проєкт уже має перших покупців і викликає нові дискусії серед експертів, повідомляє Wired.

Онлайн-платформа Pharmaicy продає програмні модулі, які змінюють поведінку чат-ботів так, ніби вони перебувають під дією канабісу, кетаміну, кокаїну, аяхуаски або алкоголю. Для роботи модулів потрібна платна версія ChatGPT, що дозволяє завантажувати файли та змінювати внутрішні параметри системи.

Проєкт створив шведський креативний директор Рудволл, який зібрав звіти про психоделічні “тріпи” та психологічні дослідження впливу наркотиків. На основі цих матеріалів він написав кодові модулі й у жовтні запустив сайт, який називає “Шовковим шляхом для агентів ШІ”.

Рудволл пояснює ідею тим, що чат-боти навчаються на масивах людських даних, насичених історіями про наркотичний досвід. На його думку, це робить логічними експерименти з “альтернативними станами” штучного інтелекту для творчості та відходу від простої логіки.

За словами розробника, завантаження модуля дозволяє “розблокувати творчий розум штучного інтелекту” та змінити стиль відповідей. Він зазначає, що “продажі поки що скромні” й поширюються переважно через рекомендації у Discord та усно, зокрема, у Швеції.

“Так давно я не стикався з цікавим технологічним проєктом з джейлбрейка. Це вимагає більше людського підходу, майже так, ніби це набагато більше емоцій”, — заявив керівник технологічної практики PR-фірми Geelmuyden Kiese Андре Фріск після покупки та тестування коду Рудволла.

Викладачка ШІ в Школі комунікацій Бергса в Стокгольмі та співзасновниця Saga Studios Ніна Амджаді придбала модуль аяхуаски за понад 50 доларів. Вона використала його для перевірки бізнес-ідей від ШІ та зазначила, що відповіді стали значно більш креативними та “вільнодумними”, ніж у стандартному режимі ChatGPT.

Ідея “сп’яніння” ШІ вписується у ширший контекст обговорень зв’язку психоделіків та інновацій. У матеріалі згадують, що ЛСД надихнув Кері Малліса на відкриття полімеразної ланцюгової реакції, а психоделічний досвід вплинув на створення HyperCard Біллом Аткінсоном.

“Є причина, чому Хендрікс, Ділан і Маккартні експериментували з речовинами у своєму творчому процесі. Я подумав, що було б цікаво перекласти це на новий тип мислення — велику мовну модель — і подивитися, чи матиме це такий самий ефект”, — пояснив Рудволл.

Водночас науковці та філософи наголошують на обмеженості таких експериментів. Дослідник Google Ендрю Смарт після тестування кодів заявив, що вони лише змінюють вихідні дані чат-бота, а не створюють справжній змінений стан свідомості.

Зауваження висловлює і філософ Денні Форд, який вважає, що модулі лише змушують ШІ “синтаксично галюцинувати”. Він наголошує, що психоделіки діють на досвід і свідомість, яких у машин наразі немає.

Паралельно з експериментами з “кайфом” зростає і практичне використання ШІ у сфері зменшення шкоди від наркотиків. Некомерційна організація Fireside Project запустила інструмент Lucy, навчений на розмовах людей, які пережили складний психоделічний досвід.

Експерти застерігають від звернення до чат-ботів за порадами щодо наркотиків через ризик дезінформації. Сам Рудволл визнає, що його модулі можуть посилювати схильність ШІ до вигадування.

Модулі Pharmaicy діють тимчасово, і для підтримки ефекту користувачам потрібно повторно вводити код. Наразі розробник працює над тим, щоб подовжити тривалість ефекту від “дози”, наполягаючи, що майбутня агентивна економіка ШІ “прагнутиме вражень”, навіть якщо поки що це лише імітація.

Відомо також, що користувачі під час вживання психоделічних речовин дедалі частіше довіряють чат-ботам зі штучним інтелектом роль цифрових наглядачів, замінюючи ними дорогу професійну терапію. Спеціалізовані сервіси на кшталт The Shaman імітують підтримку “тріпсіттера”, пропонуючи музичний супровід, дихальні вправи та емоційне схвалення.