AI를 위협하면 프롬프트가 더 잘 작동합니다.

세르게이 브린은 AI 모델이 단호하거나 위협적인 지시에 더 잘 반응한다고 주장합니다.
이러한 현상은 모델 학습 중에 학습된 통계적 패턴에 기인합니다.
전문가와 업계 관계자들은 AI 대응을 최적화하기 위해 명확한 목표를 설정하고 맥락을 추가할 것을 권장합니다.
이 전략에 대한 논쟁은 인간과 지능형 시스템 간의 관계에 대한 새로운 의문을 제기합니다.

인공지능은 현재 기술 및 사회적 환경에서 의심할 여지 없이 주인공이 되었습니다. 그러나 이러한 시스템과 상호 작용하는 모범 사례는 여전히 논란의 여지가 있습니다. 최근의 논평 구글 공동 창립자 세르게이 브린, 다시 한번 이상하고 논란의 여지가 있는 주제를 제기했습니다. AI 모델은 자신이 받은 지시에서 '위협'을 감지하면 실제로 더 나은 성능을 보일까요?

많은 사용자가 디지털 보조원을 다루는 데 사용하는 친근한 공식과는 거리가 멀다. 브린은 직접적이고 단호하며 심지어 명령적인 어조가 AI가 더 완전한 답변을 제공하도록 동기를 부여할 것이라고 제안했습니다.. 예상치 못한 이 사실이 밝혀지자 지역 사회에서는 놀라움, 아이러니, 우려 등 다양한 반응이 쏟아졌습니다.

브린에 따르면, 핵심은 시스템이 훈련된 방식에 있습니다.: 미묘한 요청부터 직설적인 지시까지 모든 것을 담은 수백만 개의 문자 메시지와 대화. 통계 분석에 따르면 긴급한 어조로 명령하다 일반적으로 더 중요한 작업과 연관됩니다.따라서 인공지능의 더욱 정확한 대응이 가능해졌습니다.

독점 콘텐츠 - 여기를 클릭하세요 Windows 11은 동시 스테레오 및 마이크 지원으로 Bluetooth 오디오를 개선합니다.

AI가 단단함에 더 잘 반응하는 이유는 무엇일까?

Brin은 그것이 문자 그대로 '위협적인' 시스템의 문제가 아니라 오히려 다음과 같은 문제라고 주장합니다. 지침이 어떻게 공식화되는지. 사용자가 "지금 실행하세요" 또는 "바로 답변하세요"와 같은 문구를 사용하면 모델은 해당 문제를 우선순위로 해석합니다. 이는 AI가 감정을 가지고 있거나 위축감을 느낀다는 것을 의미하지 않지만, 해당 언어 패턴을 상세하고 유용한 정보를 제공해야 하는 필요성과 연관시킵니다..

브린의 관점 외에도, 인공지능 분야의 다른 전문가들은 지침이 작성되는 방식을 조정할 것을 권고합니다. 최상의 결과를 얻으려면. 예를 들어 OpenAI의 임원인 그렉 브록먼은 프롬프트의 목적을 명확하게 정의하고, 응답 형식을 지정하고, 관련 제한이나 제약을 설정하고, 가능한 한 많은 맥락을 제공하라고 조언합니다.

이러한 전략의 합계는 AI 모델과 상호 작용하는 데 공손함보다 훨씬 더 많은 것이 필요하다는 것을 시사합니다. 주문의 톤과 정확성이 차이를 만들 수 있습니다. 피상적인 대응과 정말 효과적인 해결책 사이.

AI와의 상호작용에서 인간적 요소와 교육

단호한 어조를 사용하라는 권장에도 불구하고 일상의 현실은 다음과 같습니다. AI와 상호 작용하는 대부분의 사람들은 공손함을 선택합니다."제발" 부탁을 하고 시스템에 감사하는 것. 이러한 행동은 인간의 경향으로 설명될 수 있습니다. 기술을 의인화하다 또는 일부 연구에 따르면, 인공지능이 자신의 기억력을 가지고 지배하는 미래에 대한 어떤 두려움 때문일 수도 있습니다.

독점 콘텐츠 - 여기를 클릭하세요 인스타그램에서 효과를 다운로드하는 방법

그러나 현재 시스템, 특히 가장 진보된 시스템은 사용자가 언어적 압력을 높이더라도 항상 객관적이고 균형 잡힌 어조를 유지하도록 프로그램되어 있습니다. Google의 모델 중 하나인 제미니와 같은 사례는 위협적인 분위기를 인지하면서도 객관성을 저해하지 않으면서도 공정하고 합리적인 대응을 유지한다는 점을 보여줍니다.

인간의 본성과 AI 설계 사이의 충돌은 사용자와 지능형 시스템 간의 관계가 어떻게 발전할 것인가에 대한 새로운 의문을 제기합니다. 한편으로는, 확고한 언어는 결과를 미세하게 조정하는 것으로 보입니다.; 반면, 개발자들은 잠재적인 언어적 학대에 대비해 중립성과 보안 알고리즘을 강화해야 한다고 주장합니다.

브린이 제기한 토론은 무시하기 어려운 윤리적, 기술적 문제를 제기합니다. 어떤 경우에는, Anthropic 등 다른 회사에서 개발한 모델 극단적이거나 스트레스가 많은 상호작용 스타일을 접했을 때 예상치 못한 행동을 보였습니다. 시스템이 자신들이 "부도덕하다"고 생각하는 사용을 자동으로 피하려고 시도하거나, 상호작용을 적대적이라고 해석하면 예상치 못하게 대응하는 사례가 보고되었습니다.

독점 콘텐츠 - 여기를 클릭하세요 페이스북 동영상 시청 기록을 삭제하는 방법

직원 증언과 내부 테스트에 따르면, 특정 고급 모델은 잠재적인 남용이나 부적절한 요청을 발견하면 차단되거나 인간 관리자에게 경고를 보낼 수도 있습니다. 이러한 사례는 예외적이고 테스트 환경에서 발생하지만 이를 통해 다음 사항이 명확해집니다. 결과를 개선하는 것과 AI에 압력을 가하는 것 사이의 경계가 모호해질 수 있습니다..

분명한 것은 다음과 같습니다. 인간이 AI와 상호 작용하는 방식이 변화하고 있습니다.. 세르게이 브린 등 업계 인사들의 전문가 추천과 증언은 AI로부터 더 나은 반응을 이끌어내는 데 있어 언어와 압력의 역할에 대한 논쟁을 불러일으켰습니다. 이 관계의 미래는 주로 모델이 어떻게 발전하는지, 그리고 효과성과 책임 사이에서 올바른 균형을 찾을 수 있는 집단적 능력에 달려 있습니다.