정치 챗봇이 투표에 영향을 미치는 방법을 배우는 방법

의 등장 정치 챗봇 그것은 더 이상 기술적 일화가 아닙니다. 실제 선거 캠페인에서 중요해지기 시작하는 요소가 되었습니다. AI 모델과 몇 분만 대화해도 충분합니다. 후보자에 대한 동정심을 몇 포인트나 바꾸다 또는 구체적인 제안, 최근까지 대규모 미디어 캠페인이나 고도로 조직된 집회에서만 연관되었던 것입니다.

동시에 출판된 두 가지 광범위한 조사 자연 y 과학, 그들은 이미 의심되는 것에 숫자를 부여했습니다.: 대화형 챗봇은 시민들의 정치적 태도를 바꿀 수 있습니다. 기계와 상호 작용하고 있다는 것을 알고 있을 때조차도 놀라울 정도로 쉽게 상호 작용합니다. 그리고 무엇보다도 그들은 다음을 통해 상호 작용합니다. 정보가 가득한 주장정교한 심리적 전술을 통해서가 아닙니다.

캠페인에서의 챗봇: 미국, 캐나다, 폴란드, 영국에서의 실험

새로운 증거는 다음 팀에서 조정한 일련의 실험에서 나왔습니다. 코넬 대학교 과 옥스퍼드 대학교실제 선거 과정에서 수행됨 미국, 캐나다, 폴란드, 영국모든 경우에 참가자들은 자신이 AI와 대화할 것이라는 사실을 알고 있었지만, 자신에게 배정된 챗봇의 정치적 성향은 알지 못했습니다.

에서 주도한 작업에서 데이비드 랜드 Nature에 게재된 내용에 따르면 수천 명의 투표자가 언어 모델을 구성하여 간단한 대화를 나누었습니다. 특정 후보를 옹호하다예를 들어 2024년 미국 대선에서는 시민 2.306 명 그들은 먼저 다음 중 하나를 선호한다고 밝혔습니다. 도널드 트럼프 y 카말라 해리스그런 다음 그들은 두 사람 중 한 명을 옹호하는 챗봇에 무작위로 배정되었습니다.

대화 후 태도와 투표 의향의 변화를 측정했습니다. 해리스에게 호의적인 봇은 3,9 포인트 이동 트럼프와 처음에 동조했던 유권자들 사이에서 0~100점 척도로 영향을 미쳤으며, 저자는 이를 다음과 같이 계산했습니다. 기존 선거광고보다 4배 더 높은 2016년과 2020년 선거 운동에서 테스트되었습니다. 트럼프 지지 모델도 입장 변화를 보였지만, 다소 완화된 양상을 보였습니다. 1,51 점 해리스 지지자들 사이에서.

결과는 캐나다 (함께 1.530 참가자 그리고 챗봇이 방어한다 마크 카니 o 피에르 푸리에브르) 및 폴란드 (2.118명, 홍보모델 포함) 라팔 트르자스코프스키 o 카롤 나브로키)는 더욱 눈에 띄었습니다. 이러한 맥락에서 채팅봇은 최대 10퍼센트 포인트의 투표 의향 변화 야당 유권자들 사이에서.

이러한 시험의 핵심 측면은 대부분의 대화가 몇 분밖에 지속되지 않았지만 효과의 일부는 시간이 지나도 지속되었습니다.미국에서는 실험 후 한 달이 조금 넘은 후에도 참가자들이 그 기간 동안 엄청난 양의 캠페인 메시지를 받았음에도 불구하고 초기 영향의 상당 부분이 여전히 관찰되었습니다.

정치 챗봇을 설득력 있게 만드는 요소(그리고 이로 인해 더 많은 오류가 발생하는 이유)

연구자들은 채팅봇이 설득할 수 있는지 여부뿐만 아니라 그들은 그것을 어떻게 달성하고 있었는가연구에서 반복되는 패턴은 명확합니다. AI가 가장 큰 영향을 미치는 경우 많은 사실 기반 주장을 사용합니다.그 정보의 대부분이 특별히 정교하지 않더라도 말이다.

Rand가 조정한 실험에서 모델에 대한 가장 효과적인 지시는 모델에게 다음을 요청하는 것이었습니다. 예의 바르고, 존중심이 강하며, 증거를 제시할 수 있는 사람 그의 발언에 대해. 예의 바르고 대화하는 듯한 어조도 도움이 되었지만, 변화를 이끌어낸 가장 중요한 요소는 데이터, 사례, 수치를 제시하고 공공 정책, 경제, 의료에 대한 끊임없는 언급이었습니다.

모델이 검증 가능한 사실에 대한 접근이 제한되고 설득하도록 지시받았을 때 구체적인 데이터에 의존하지 않고그들의 영향력은 급격히 감소했습니다. 이 결과를 통해 저자들은 챗봇이 다른 형태의 정치 선전에 비해 갖는 이점은 감정 조작보다는 정보 밀도 단 몇 번의 대화로 배치할 수 있는 것들입니다.

그러나 이 동일한 전략에는 단점이 있습니다. 모델에 대한 압력이 증가함에 따라 점점 더 사실적인 주장이 늘어나고 있다시스템에서 신뢰할 수 있는 자료가 부족해지고 작동이 중단될 위험이 커집니다. 사실을 "만들어내다"간단히 말해서, 챗봇은 그럴듯해 보이지만 반드시 정확한 것은 아닌 데이터로 빈틈을 메웁니다.

Science에 게재된 연구에 따르면, 영국 성인 76.977명 y 19가지 다른 모델 (소규모 오픈 소스 시스템에서 최첨단 상업 모델까지) 다음을 체계적으로 확인합니다. 설득에 초점을 맞춘 사후 훈련 최대 영향을 미칠 수 있는 능력이 증가했습니다. 51 %, 간단한 지침 변경(소위 격려그들은 또 다른 것을 추가했습니다 27 % 효율성. 동시에 이러한 개선과 함께 눈에 띄는 감소가 수반되었습니다. 사실적 정확성.

이념적 비대칭과 허위 정보의 위험

코넬과 옥스퍼드 연구에서 가장 우려스러운 결론 중 하나는 설득력과 진실성 사이의 불균형이 모든 후보자와 직책에 고르게 분포되지 않는다는 것입니다. 독립적인 사실 확인자들이 챗봇이 생성한 메시지를 분석했을 때, 우익 후보를 지지한 모델이 더 많은 실수를 범했다 진보적 후보를 지지하는 사람들보다.

저자에 따르면 이것은 어울리지 않음 이는 이전 연구와 일치합니다. 연구 결과에 따르면 보수적인 사용자는 좌파 성향의 사용자보다 소셜 미디어에서 더 부정확한 콘텐츠를 공유하는 경향이 있는 것으로 나타났습니다.언어 모델은 인터넷에서 추출한 방대한 양의 정보로부터 학습하므로, 처음부터 편향을 만들어내기보다는 그 편향 중 일부를 반영할 가능성이 높습니다.

어떤 경우든 결과는 동일합니다. 채팅봇이 특정 이념 집단을 지지하기 위해 설득력을 극대화하도록 지시받으면 모델은 다음과 같은 경향이 있습니다. 오해의 소지가 있는 주장의 비율을 높이다하지만 저는 계속해서 많은 정확한 데이터와 이를 섞어 사용하고 있습니다. 문제는 거짓 정보가 흘러들어올 수 있다는 것만이 아닙니다.그러나 그것은 겉보기에 합리적이고 잘 문서화된 이야기로 포장되어 있습니다..

연구자들은 또한 불편한 점을 강조했습니다. 그들은 부정확한 주장이 본질적으로 더 설득력이 있다는 것을 입증하지 못했습니다.그러나 AI가 점점 더 효과적이 되도록 노력할수록 오류도 함께 증가합니다. 다시 말해, 정확성을 저해하지 않으면서 설득력을 높이는 것은 기술적, 윤리적 과제로 남아 있으며, 이는 여전히 해결되지 않은 과제입니다.

이 패턴은 특히 다음과 같은 맥락에서 문제가 됩니다. 높은 정치적 양극화유럽과 북미 일부 지역에서 경험한 것과 같은 경우, 승리의 차이가 좁고 소수의 퍼센트 포인트가 총선이나 대선 결과를 결정할 수 있습니다.

연구의 한계와 투표소에서의 실제 영향에 대한 의심

Nature와 Science의 결과는 확실하고 주요 결론에 동의하지만 두 팀 모두 다음과 같이 주장합니다. 이는 실제 캠페인이 아닌 통제된 실험입니다.초대하는 요소는 여러 가지가 있습니다. 데이터를 외삽할 때 주의하세요 거리에서 실시되는 선거와 마찬가지다.

한편, 참가자들은 자발적으로 등록했거나 재정적 보상을 제공하는 플랫폼을 통해 모집되었으며, 이는 자기 선택 편향과 실제 유권자의 다양성에서 멀어지고 있습니다.게다가 그들은 항상 그것을 알고 있었습니다. 그들은 AI와 대화하고 있었습니다. 그리고 그것은 연구의 일부였으며, 일반적인 캠페인에서는 거의 반복되지 않을 조건이었습니다.

또 다른 중요한 뉘앙스는 연구가 주로 다음을 측정했다는 것입니다. 태도와 의도의 변화실제 투표율은 아닙니다. 이러한 지표들은 유용하지만, 선거 당일 최종 행동을 관찰하는 것과는 다릅니다. 실제로 미국 실험에서는 그 효과가 캐나다와 폴란드보다 다소 작았는데, 이는 정치적 맥락과 사전 우유부단의 정도가 상당한 영향을 미친다는 것을 시사합니다.

영국에서 조정된 연구의 경우 코비 하켄버그 영국의 AI 보안 연구소에서도 명확한 제한 사항이 있습니다. 데이터는 다음에서만 제공됩니다. 영국 유권자들, 그들 모두는 자신들이 학술 조사에 참여하고 있다는 사실을 알고 있었습니다. 경제적 보상이로 인해 일반화가 다른 EU 국가나 통제가 덜한 상황에 국한됩니다.

그럼에도 불구하고 이러한 작업의 규모는 수만 명의 참가자와 10만 명 이상입니다. 700여 개의 다양한 정치 주제— 그리고 방법론적 투명성으로 인해 학계 커뮤니티의 상당 부분이 다음과 같은 점을 고려하게 되었습니다. 그들은 그럴듯한 시나리오를 그린다비교적 빠르게 여론을 바꿀 수 있는 정치적 챗봇을 활용하는 것은 더 이상 미래의 가설이 아니라, 다가올 선거 운동에서 기술적으로 실현 가능한 시나리오입니다.

유럽과 다른 민주주의 국가들의 새로운 선거 참여자

미국, 캐나다, 폴란드 및 영국의 특정 사례를 넘어 이러한 결과는 다음과 같은 직접적인 의미를 갖습니다. 유럽과 스페인소셜 미디어에서의 정치적 소통 규제와 선거 운동에서의 개인정보 사용은 이미 격렬한 논쟁의 대상이 되고 있습니다. 유권자와의 개인화된 대화 이는 복잡성을 한층 더 높이는 요소입니다.

지금까지 정치적 설득은 주로 다음을 통해 표현되었습니다. 정적 광고, 집회, TV 토론 및 소셜 미디어대화형 비서의 등장으로 새로운 요소, 즉 유지 관리 기능이 도입되었습니다. 일대일 상호작용시민들이 실시간으로 말하는 내용에 맞춰 즉석에서 조정이 가능하며, 이 모든 것이 캠페인 주최자에게는 실질적으로 미미한 비용만 듭니다.

연구자들은 더 이상 누가 유권자 데이터베이스를 통제하는지가 핵심이 아니라 누가 할 수 있는지가 핵심이라고 강조합니다. 주장에 대응하고, 주장을 개선하고, 재현할 수 있는 모델을 개발합니다. 지속적으로, 교환대나 거리 우편국에서 인간 자원봉사자가 처리할 수 있는 정보량을 훨씬 뛰어넘는 양의 정보를 처리합니다.

이러한 맥락에서 이탈리아 전문가의 목소리와 같은 발터 콰트로치오키 그들은 규제의 초점이 공격적인 개인화나 이념적 세분화에서 벗어나야 한다고 주장합니다. 정보 밀도 모델이 제공할 수 있는 것입니다. 연구에 따르면 설득력은 주로 데이터가 풍부할 때 커지는 것이지, 감정적 전략을 사용할 때 커지는 것이 아닙니다.

La Nature와 Science의 결과의 일치는 유럽 기관에서 경각심을 불러일으켰습니다. ~에 대해 우려하다 민주적 과정의 성실성유럽연합은 디지털 서비스법이나 AI에 대한 미래 특정 규제와 같은 프레임워크를 통해 진전을 이루고 있지만 이러한 모델이 진화하는 속도는 이를 위해서는 감독, 감사, 투명성 메커니즘에 대한 지속적인 검토가 필요합니다..

디지털 리터러시와 자동화된 설득에 대한 방어

이 저작들에 첨부된 학술 논평에서 반복적으로 언급되는 메시지 중 하나는 대응이 금지나 기술적 통제에만 근거할 수 없다는 것입니다. 저자들은 다음과 같은 조치를 강화하는 것이 필수적이라는 데 동의합니다. 디지털 문해력 시민들이 배울 수 있도록 인구의 설득을 인식하고 저항하다 자동 시스템에 의해 생성됩니다.

에 발표된 것과 같은 보완 실험 PNAS 넥서스그들은 대규모 언어 모델이 어떻게 작동하는지 가장 잘 이해하는 사용자가 다음과 같다고 제안합니다. 덜 취약하다 영향력을 행사하려는 시도에 대해 이야기합니다. 챗봇이 틀릴 수도, 과장할 수도, 혹은 추측으로 빈틈을 메울 수도 있다는 사실을 알면, 마치 챗봇의 메시지를 무오류 권위자에게서 온 것처럼 받아들이려는 경향이 줄어듭니다.

동시에 AI의 설득 효과는 대화자가 전문가와 대화하고 있다고 믿는 것보다 대화의 내용에 크게 달려 있다는 점이 관찰되었습니다. 주장의 질과 일관성 수신합니다. 일부 테스트에서는 챗봇 메시지가 음모론에 대한 믿음을 줄이다참가자들이 자신이 사람과 대화하고 있다고 생각했는지, 아니면 기계와 대화하고 있다고 생각했는지는 중요하지 않습니다.

이는 기술 자체가 본질적으로 해롭지 않다는 것을 시사합니다. 즉, 두 가지 모두에 사용할 수 있습니다. 허위 정보와 싸우다 그것을 전파하기 위해경계선은 모델에 주어진 지침, 모델을 훈련하는 데 사용된 데이터, 그리고 무엇보다도 모델을 실행하는 사람들의 정치적 또는 상업적 목표에 따라 결정됩니다.

정부와 규제 기관이 투명성 한도와 요건에 대해 논쟁하는 동안, 이 책의 저자들은 한 가지 아이디어를 주장합니다. 정치 챗봇 대중이 그들과 상호 작용하는 데 동의하는 경우에만 그들은 엄청난 영향력을 행사할 수 있을 것입니다.따라서 자동화된 설득의 사용, 명확한 라벨링, 자동화된 설득의 대상이 되지 않을 권리에 대한 공개 토론은 앞으로 몇 년 동안 민주적 대화에서 중심적인 문제가 될 것입니다.

Nature와 Science에 실린 연구에 따르면 기회와 위험이 모두 드러납니다. AI 챗봇은 공공 정책을 더 잘 설명하고 복잡한 의문을 해결하는 데 도움이 될 수 있지만, 그들은 능력이 있습니다 선거의 균형을 깨다특히 아직 결정하지 않은 유권자들 사이에서는 설득력을 극대화하도록 훈련할 때 정보 정확성 측면에서 명백한 대가를 치르게 됩니다.민주주의 국가들이 시급히, 순진함 없이 해결해야 할 섬세한 균형입니다.