인공지능(AI)은 오픈AI의 챗GPT 출시 이후 불과 1년 남짓한 기간에 전 세계 산업 분야는 물론 경제, 문화, 의학 분야에 이르기까지 활용이 크게 확대되고 있다.

실제로 얼마 전 인공지능 거대 기술 기업 오픈온라인 검증 사이트는 챗GPT 출시 이후 채 1년도 지나지 않은 시점에서 사용자가 무려 4배 이상 폭증했다고 밝힌 바 있다.

◆개인정보 침해·허위 정보 제공…온라인 검증 사이트 활용의 어두운 단면

하지만 인공지능은 마치 ‘동전의 양면’과도 같은 두 얼굴을 하고 있다. 당장 산업 현장에서 생산성을 향상시키는 장점을 가지고 있는 반면 인공지능의 사용에 따른 각종 부작용 또한 만만치 않게 드러나고 있기 때문이다.

인공지능의 활용에 따른 부작용은 여러 가지가 있지만 대표적인 예로 인공지능 모델의 설계와 개발 과정에서의 사이버 보안 문제, 활용 과정에서 발생하는 개인정보 침해 등의 문제를 들 수 있다. 특히 개인정보 침해는 전 세계 국가와 기업들이 가장 민감하게 인식하고 있는 부작용으로 손꼽힌다.

이처럼 인공지능 활용에 따른 개인정보 침해 사례가 심각한 우려를 낳고 있는 가운데 최근 오스트리아의 한 데이터 권리 보호 단체가 허위 개인정보 제공을 이유로 오픈온라인 검증 사이트를 상대로 소송을 제기해 주목받고 있다.

해외 블록체인 전문 매체 코인텔레그래프(Cointelegraph)에 따르면 유명한 인공지능 개발 기업인 Open온라인 검증 사이트는 오스트리아의 한 데이터 권리 보호 옹호 단체가 제기한 새로운 개인 정보 보호 불만에 따라 소송에 피소됐다.

오스트리아 데이터 권리 단체 노이브(Noyb)는 지난달 29일 오픈온라인 검증 사이트가 생성형 인공지능 챗봇 챗GPT에 의해 제공된 허위 정보를 수정하지 않았다고 주장하며 고소장을 제출했다. 노이브는 이러한 조치의 부재가 궁극적으로 유럽 연합의 개인 정보 보호 규정을 위반할 수 있다고 밝혔다.

노이브에 따르면 이 사건의 고소인인 익명의 공인은 자신에 대한 정보를 얻기 위해 오픈온라인 검증 사이트의 챗봇에 요청했으니 지속적으로 잘못된 정보를 제공받았다.

오픈온라인 검증 사이트는 데이터를 수정하거나 삭제해달라는 공인의 요청을 불가능하다며 거부한 것으로 알려졌다. 또한 훈련 데이터와 출처에 대한 정보 공개도 거부했다.

노이브의 데이터 보호 변호사인 Maartje de Graaf는 이 사건에 대해 성명서를 통해 “시스템이 정확하고 투명한 결과를 도출할 수 없는 경우 개인에 대한 데이터를 생성하는 데 사용할 수 없다”며 “기술은 법적 요구 사항을 따라야 하며 그 반대가 되어서는 안 된다”고 말했다.

◆기술 기업 대책 마련 부재 시…향후 줄소송 제기 가능성 상존

노이브는 오스트리아 데이터 보호 당국에 불만을 제기하고 오픈온라인 검증 사이트의 데이터 처리와 대규모 언어 모델이 처리하는 개인 데이터의 정확성을 보장하는 방법에 대해 조사할 것을 요청했다.

Maartje de Graaf 변호사는 “현재 기업들이 개인에 대한 데이터를 처리할 때 챗GPT와 같은 챗봇이 유럽 연합 법률을 준수하도록 할 수 없다는 것은 분명하다”고 말했다.

유럽 디지털 권리 센터(European Center for Digital Rights)로도 알려진 노이브는 오스트리아 빈에서 운영되고 있으며 유럽 일반 데이터 보호 규정(GDPR) 법률을 지원하는 ‘전략적 법원 소송 및 미디어 이니셔티브’를 시작하는 것을 목표로 하고 있다.

잘 알려진 대로 유럽 지역에서 활동가나 연구자들에 의해 챗봇이 등장한 것은 이번이 처음이 아니다.

2023년 12월 두 개의 유럽 비영리 단체의 연구에 따르면 Copilot으로 브랜드를 변경한 마이크로소프트의 Bing 온라인 검증 사이트 챗봇이 독일과 스위스의 정치 선거에서 지방 선거와 관련하여 오해의 소지가 있거나 부정확한 정보를 제공하고 있는 것으로 나타났다.

이 챗봇은 후보자들에 대한 정보, 여론조사, 스캔들, 투표 등에 대해 부정확한 답변을 제공하면서 출처를 잘못 인용했다.

또 다른 사례로는 구체적으로 유럽 연합에 있지는 않지만 이미지 생성기에서 ‘기억 또는 감정을 일깨우는’ 부정확한 이미지를 제공하는 구글의 제미니 온라인 검증 사이트 챗봇을 들 수 있다. 이와 관련해 구글은 이번 사건에 대해 사과문을 발표하고 자사의 모델을 업데이트할 것이라고 밝혔다.

학계와 전문가들은 이번 오스트리아 데이터 권리 단체 노이브가 오픈온라인 검증 사이트를 상대로 소송을 제기한 것은 시기의 차이가 있을 뿐 이미 예견된 사안이었다는 데 인식을 같이하고 있다.

챗GPT로 대변되는 인공지능 도구 출시 후 사용에 따른 부작용, 특히 개인정보 침해 또는 허위 정보 제공이라는 문제는 학계와 관련 단체, 연구소 등을 중심으로 끊임없이 제기되어 왔고 이의 개선을 요구하는 목소리가 높았기 때문이다.

특히 그동안 인공지능 활용에 따른 부작용의 폐해에 대한 지적과 이의 개선을 촉구하는 목소리가 지속되고 인공지능 선도국가들을 중심으로 이를 규제하기 위한 적극적 행보에도 불구하고 인공지능을 개발 출시하는 기술 기업들이 미온적 태도로 일관해왔던 만큼 이 같은 소송의 제기는 당연한 결과라는 시각이 지배적이다.

따라서 학계와 전문가들은 인공지능 기술 기업들이 매출에만 경도돼 개인 정보 보호를 위한 실체적인 대책 마련과 안전하고 신뢰할 수 있는 인공지능 개발을 도외시 할 경우 이번 노이브의 소송을 계기로 향후 동일한 소송이 줄을 이을 수도 있을 것으로 예상하고 있다. [온라인 검증 사이트]