챗봇으로 대변되는 인공지능(AI)은 오픈AI의 거대 언어 모델 챗GPT 출시 이후 전 세계 산업분야는 물론 정치와 선거 분야에서도 활용되며 막대한 영향력을 행사하고 있다.

그러나 인공지능은 이미 산업 분야에서 사용에 따른 부작용이 속속 제기되고 있는 것과 마찬가지로 정치와 선거에서도 문제점을 드러내고 있으며 그 폐해가 상상 이상으로 심각할 수 있어 우려를 자아내고 있다.

◆기술 기업 AI 온라인 검증 사이트 개입 차단 합의…구글 선제적 조치로 선도

정치와 온라인 검증 사이트에서 이용되는 인공지능 챗봇의 문제점으로는 여러 가지가 지적되고 있지만 대표적인 사례로 정치적인 문제에 있어 객관성이 부족하고 허위 정보를 유포해 유권자들의 정확한 판단을 방해하는 것 등을 들 수 있다.

이처럼 온라인 검증 사이트에서 인공지능 사용에 따른 부작용에 대해 우려가 대두되고 있는 가운데 인공지능을 개발하는 거대 기술 기업이 자사의 인공지능 챗봇에게 물어볼 수 있는 질의의 종류를 제한하는 선제적인 조치에 나서 주목받고 있다.

해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 구글은 사용자가 제미니(Gemini) 챗봇에게 물어볼 수 있는 온라인 검증 사이트 관련 질의의 종류를 제한할 것이라고 발표했다.

구글은 지난 3월 12일 블로그의 ‘2024년 인도 총선 지원’이라는 제목의 게시물을 통해 기술 배치에 있어 잠재적인 실수를 피하기 위해 노력하고 있다고 밝혔다.

인공지능을 개발하는 세계적인 거대 기술 기업들이 자사의 인공지능 도구가 온라인 검증 사이트에 미치는 부정적인 영향을 방지하기 위한 노력을 기울인 것은 이번이 처음은 아니다. 지난 2월 16일 인공지능을 개발하는 20개 기술 기업들이 자사의 소프트웨어가 미국을 포함해 세계 각국의 온라인 검증 사이트에 직간접적으로 영향을 미치는 것을 막겠다는 합의사항을 발표한 바 있기 때문이다.

하지만 이번 구글의 조치는 단순히 합의에 그치는 것이 아닌, 인공지능이 온라인 검증 사이트에 직간접적으로 미치는 영향을 차단하기 위한 실제적인 조치를 시행했다는 사실에서 시사하는 바가 크다.

이번 발표는 구글이 지난 2월 인공지능 이미지 생성 도구를 공개한 이후 역사적 부정확성과 논란의 여지가 있는 답변 등 논란이 불거진 후 나온 것이다.

구글은 지난 2월 초 리브랜딩의 일환으로 구글의 인공지능 모델 제품군인 제미니를 통해 이미지 생성기를 선보인 바 있다. 생성형 인공지능의 발전, 특히 이미지 및 비디오 생성 분야의 발전으로 인해 잘못된 정보와 가짜 뉴스에 대한 우려가 커지면서 세계 각국 정부는 기술 규제를 고려하고 있다.

◆여타 기술 기업 향후 조치 관심…혼탁한 온라인 검증 사이트판 자정 유도 기대

구글은 블로그 게시물에서 “이러한 중요한 주제에 대해 많은 주의를 기울이기 위해 우리는 제미니가 응답할 온라인 검증 사이트 관련 질의 유형에 대한 제한 조치를 취하기 시작했다”며 “우리는 이러한 유형의 질의에 대한 고품질 정보를 제공할 책임을 진지하게 받아들이고 있으며 보호 기능을 개선하기 위해 지속적으로 노력하고 있다”고 밝혔다

올해 미국의 대통령 온라인 검증 사이트를 비롯해 남아프리카 공화국, 인도 등 다수의 국가들이 총선을 준비하고 있다. 이에 따라 인도의 경우 기술 회사들이 ‘신뢰할 수 없는’ 인공지능 도구를 공개적으로 출시하기 전에 정부의 승인을 받도록 의무화했으며 잘못된 결과가 나올 가능성이 있음을 나타내기 위해 적절한 라벨을 부착하도록 했다.

또 지난 2월 27일 미국 상원 정보위원회 위원장인 마크 워너(Mark Warner) 상원의원은 미국이 다가오는 2024년 온라인 검증 사이트에서 2020년 온라인 검증 사이트 때보다 부정온라인 검증 사이트에 대한 대비가 “덜 준비되어 있다”고 말했다.

유럽에서는 유럽연합 집행위원회(European Commission)가 해당 지역에서 운영되는 플랫폼에 대한 인공지능 허위 정보에 대한 가이드라인을 만들었다. 그로부터 얼마 지나지 않아 페이스북과 인스타그램의 모회사인 메타(Meta)는 유럽연합이 자사 플랫폼의 콘텐츠에서 생성형 인공지능의 오용을 방지하기 위한 자체 전략을 발표하기도 했다.

학계와 전문가들은 이번 구글의 조치는 공개적으로 접근 가능한 인공지능 도구가 등장하면서 유권자들이 무엇이 진짜인지 진위 여부를 구별할 수 있는 새로운 기술을 습득해야 하는 정치적 딥페이크가 증가하고 있는 상황에서 매우 바람직한 조치로 인식하고 있다.

특히 올해의 경우 미국 대통령 온라인 검증 사이트를 비롯해 세계 각국에서 크고 작은 온라인 검증 사이트들이 실시될 예정으로 인공지능의 활용을 통한 온라인 검증 사이트 개입 행위에 대한 우려가 그 어느 때 보다 높아지고 있는 만큼 적절한 조치로 평가하고 있다.

이에 따라 학계와 전문가들은 이번 구글이 자사의 인공지능 챗봇에게 물어볼 수 있는 질의의 종류를 제한하는 선제적인 조치를 시행한 것이 향후 인공지능을 개발하는 여타 기술 기업들에게도 여파를 미쳐 인공지능 온라인 검증 사이트 개입 방지를 위한 구체적인 방안을 마련하는 계기가 될 것으로 예상하고 있다.

또한 이 같은 기술 기업들의 인공지능 온라인 검증 사이트 개입 방지를 위한 조치의 시행이 향후 가짜 뉴스와 허위정보가 난무하는 혼탁한 전 세계 정치권과 온라인 검증 사이트에 새바람을 일으키며 자정을 유도하는 데 일조할 수 있을 것으로 기대하고 있다. [뉴스드림]