- Сергій Брін припускає, що моделі штучного інтелекту краще реагують на тверді або навіть загрозливі вказівки.
- Це явище пояснюється статистичними закономірностями, отриманими під час навчання моделі.
- Експерти та галузеві діячі рекомендують ставити чіткі цілі та додавати контекст для оптимізації реакцій ШІ.
- Дискусія щодо цієї стратегії порушує нові питання щодо взаємозв'язку між людьми та інтелектуальними системами.
Штучний інтелект став беззаперечним головним героєм сучасного технологічного та соціального ландшафту. Однак, найкращі практики взаємодії з цими системами залишаються суперечливими. Нещодавній коментар від Сергій Брін, співзасновник Google, знову порушив тему, настільки ж цікаву, як і суперечливу: Чи дійсно моделі штучного інтелекту працюють краще, коли виявляють «загрози» в отриманих інструкціях?
Далеко від дружніх формул, за допомогою яких багато користувачів звертаються до цифрових помічників, Брін припустив, що прямий, твердий або навіть імперативний тон мотивуватиме ШІ пропонувати більш повні відповіді.. Це несподіване одкровення викликало хвилю реакцій у спільноті, від здивування та іронії до занепокоєння.
За словами Бріна, Ключ полягає в тому, як системи були навченіз мільйонами текстових повідомлень та розмов, що містять усе: від ледь помітних прохань до прямолінійних інструкцій. Статистичний аналіз показує, що накази з настійним тоном Зазвичай вони пов'язані із завданнями більшої важливості, що заохочує штучний інтелект до точніших відповідей.
Чому ШІ краще реагує на твердість?
Брін стверджує, що це не буквально питання «загрозливих» систем, а радше питання як сформульовані інструкції. Коли користувач використовує фрази на кшталт «зроби це зараз» або «відповідай безпосередньо», модель інтерпретує проблему як пріоритетну. Це не означає, що ШІ має емоції або відчуває страх, але що пов'язує цю мовну модель з необхідністю надання детальної та корисної інформації.
Окрім точки зору Бріна, Інші експерти в галузі штучного інтелекту рекомендують скоригувати спосіб написання інструкцій. для найкращих результатів. Грег Брокман, керівник OpenAI, наприклад, радить чітко визначити мету запиту, вказати формат відповіді, встановити відповідні обмеження або обмеження та надати якомога більше контексту.
Сума цих стратегій свідчить про те, що взаємодія з моделями штучного інтелекту передбачає набагато більше, ніж просто ввічливість: Тон і точність наказів можуть мати вирішальне значення між поверхневою відповіддю та справді ефективним рішенням.
Людський фактор та освіта у взаємодії зі штучним інтелектом
Незважаючи на рекомендації використовувати твердий тон, щоденна реальність показує, що Більшість людей, які взаємодіють зі штучним інтелектом, обирають ввічливість, просячи щось на кшталт «будь ласка» та дякуючи системам. Таку поведінку можна пояснити схильністю людини до антропоморфізувати технологію або, як показують деякі дослідження, через певний страх перед майбутнім, у якому домінуватимуть штучні інтелекти з власною пам'яттю.
Однак сучасні системи, особливо найдосконаліші, запрограмовані на постійну підтримку об'єктивного та збалансованого тону, навіть якщо користувач посилює словесний тиск. Такі приклади, як Gemini, одна з моделей Google, підкреслюють, що хоча вони визнають загрозливий тон, їхня реакція залишається неупередженою та обґрунтованою, без шкоди для об’єктивності.
Це зіткнення між людською природою та дизайном штучного інтелекту ставить нові питання щодо того, як розвиватимуться стосунки між користувачами та інтелектуальними системами. З одного боку, Здається, що тверда мова покращує результати; З іншого боку, розробники наполягають на посиленні нейтралітету та алгоритмів безпеки від потенційних словесних образ.
Дискусія, розпочата Бріном, порушує етичні та технічні питання, які важко ігнорувати. У деяких випадках, моделі, розроблені іншими компаніями, такими як Anthropic демонстрували неочікувану поведінку під час впливу екстремальних або стресових стилів взаємодії. Є повідомлення про системи, які автоматично намагаються уникнути використання, яке вони вважають «аморальним», або реагують несподівано, якщо інтерпретують взаємодію як ворожу.
Згідно зі свідченнями співробітників та внутрішнім тестуванням, деякі розширені моделі можуть бути заблоковані або навіть сповіщені менеджерами-людьми, якщо вони виявлять потенційні зловживання або невідповідні запити. Хоча ці випадки є винятковими та трапляються в тестових середовищах, вони чітко показують, що Межа між покращенням результатів та примусовим використанням штучного інтелекту через тиск може бути розмитою..
Що зрозуміло, так це те, що Спосіб взаємодії людей зі штучним інтелектом змінюється. Рекомендації експертів та відгуки таких діячів галузі, як Сергій Брін, викликали дискусію щодо ролі мови та тиску на отримання кращих відповідей від штучного інтелекту. Майбутнє цих відносин значною мірою залежатиме від того, як розвиватимуться моделі, та від колективної здатності знайти правильний баланс між ефективністю та відповідальністю.
Я ентузіаст технологій, який перетворив свої "гікові" інтереси на професію. Я провів понад 10 років свого життя, користуючись передовими технологіями та возячись із усіма видами програм із чистої цікавості. Зараз я спеціалізуюся на комп’ютерних технологіях та відеоіграх. Це тому, що більше 5 років я писав для різних веб-сайтів про технології та відеоігри, створюючи статті, які прагнуть надати вам необхідну інформацію мовою, зрозумілою для всіх.
Якщо у вас є запитання, я знаю все, що стосується операційної системи Windows, а також Android для мобільних телефонів. І я зобов’язаний перед вами, я завжди готовий витратити кілька хвилин і допомогти вам вирішити будь-які запитання, які можуть виникнути в цьому світі Інтернету.