Internet

ChatGPT의 '환각' 문제에 대한 또 다른 개인정보 불만 신고 제기

마시스북유럽 Wednesday, May 22 2024

OpenAI는 유럽 연합에서 또 다른 개인정보 불만 신고를 받고 있습니다. 이번 불만은 개인 신고인을 대신하여 개인정보 권리 비영리 단체 noyb가 제기했으며 발생한 것으로, 이는 OpenAI의 인공지능 챗봇 ChatGPT가 개인에 관한 잘못된 정보를 수정할 수 없다는 것을 몹시 비판합니다.

GenAI 도구가 잘못된 정보를 생성하는 경향은 이미 잘 기록되어 있습니다. 그러나 이러한 기술은 유럽 연합의 일반 데이터 보호 규정(GDPR)과 부딪히게 됩니다. 이 규정은 지역 사용자의 개인 데이터 처리 방식을 규제합니다.

GDPR 준수 실패에 대한 처벌은 세계 연간 매출의 최대 4%까지 이를 달 수 있습니다. OpenAI와 같이 자원이 많은 거대 기업에게 더 중요한 것은 데이터 보호 규제 기관이 정보 처리 방식에 대한 변경을 명령할 수 있으므로, GDPR 집행이 유럽 연합에서 제네레이터 인공지능 도구가 작동할 수 있는 방식을 변경할 수 있습니다.

이전에 이탈리아의 데이터 보호 당국에 의한 초기 개입으로 OpenAI는 이미 조치를 취해야 했는데, 이로 인해 2023년에 ChatGPT의 일시적인 로컬 종료를 강요당했습니다.

이제 noyb는 AI 챗봇인 ChatGPT에 대한 최신 GDPR 불만을 유럽 연합 국가 데이터 보호 당국인 오스트리아 데이터 보호 당국에 제기하고 있으며, 불명받은 신고인(“공공 인물”로 설명됨)을 대신하여 AI 챗봇이 잘못된 생년월일을 생성했다는 이유입니다.

GDPR에 따르면, EU 내의 사람들은 자신에 대한 정보에 대한 수정을 요구할 수 있는 등 여러 권리를 가지고 있습니다. noyb는 OpenAI가 이 채팅봇의 결과물을 수정해야 한다는 이 의무를 준수하지 않고 있다고 주장했습니다. 회사는 신고인의 잘못된 생년월일을 수정할 수 없다는 기술적 불가능성이라는 답변을 하면서 거부했다.

대신 회사는 불명받은 신고인의 이름과 같은 일부 단어를 필터링하거나 차단할 것을 제안했습니다.

OpenAI의 개인정보 보호 정책에 따르면, 사용자는 AI 챗봇이 자신에 대한 '사실적으로 부정확한 정보'를 생성했다고 인지할 경우 privacy.openai.com을 통해 '정정 요청'을 제출하거나 dsar@openai.com으로 이메일을 보낼 수 있습니다. 그러나 회사는 '모델이 작동하는 기술적 복잡성으로 인해 우리가 모든 인스턴스의 부정확성을 수정할 수 없을 수 있다'는 경고를 표기하여 이 선을 적시했습니다.

이 경우, OpenAI는 사용자가 ChatGPT의 결과물에서 자신의 개인 정보를 완전히 삭제해 달라고 요청하도록 하며, 웹 양식을 작성할 것을 제안합니다.

AI 거대기업의 문제는 GDPR 권리가 '알라카르트'가 아니라는 점입니다. 유럽의 사람들은 수정을 요청할 권리를 가지고 있습니다. 또한 noyb가 지적한 바와 같이, OpenAI가 사용 가능한 이 권리 중 어느 것을 선택할지를 그것이 결정하는 것은 아닙니다.

불만의 다른 요소들은 GDPR 투명성에 대한 우려사항에 초점을 맞추고 있으며, noyb는 OpenAI가 개인에 대해 생성한 데이터의 출처나 사람들에 대한 챗봇이 저장하는 데이터에 대해 말할 수 없다고 주장합니다.

이는 다시금, 규정이 개인들이 주제 접근 요청(SAR)을 통해 이러한 정보를 요청할 권리를 부여하므로 중요합니다. noyb에 따르면, OpenAI는 신고인의 SAR에 충분히 대답하지 않았으며 처리된 데이터, 해당 출처, 수신자에 대한 정보를 제공하지 않았습니다.

불만에 대한 진술에서 noyb의 데이터 보호 변호사 인 Maartje de Graaf는 다음과 같이 말했습니다: “거짓 정보를 만들어 내는 것은 그 자체로 큰 문제입니다. 그러나 개인에 대한 잘못된 정보로 가면 심각한 결과가 발생할 수 있습니다. 기업들이 현재 ChatGPT와 같은 챗봇을 EU 법규에 따라 데이터를 처리할 수 없다는 것은 명백합니다. 시스템이 정확하고 투명한 결과를 생성하지 못하면 개인에 대한 데이터를 생성할 수 없습니다. 기술은 법적 요구사항을 따라야 합니다. 그 반대로는 안 됩니다.”

회사는 오스트리아 DPA에 OpenAI의 데이터 처리에 대한 불만 사항 조사를 요청하고, 미래의 준수를 보장하기 위해 벌금 부과를 촉구하고 있지만, 그 동안 사안은 유럽 연합의 협력을 통해 처리될 것이라고 덧붙였습니다.

OpenAI는 폴란드에서도 매우 유사한 불만을 받고 있습니다. 지난 9월에 현지 데이터 보호 당국은 개인 정보와 보안 연구원이 OpenAI가 생성한 잘못된 정보의 수정을 요청할 수 없다는 사실을 발견한 불만을 제기한 후 ChatGPT에 대한 조사를 시작했습니다. 이 불만도 회사가 규정을 준수하지 않았다는 점도 포함하고 있습니다.

한편 이탈리아 데이터 보호 당국은 여전히 ChatGPT에 대한 조사를 진행 중이며, 지난 1월에 초안 결정을 내려 OpenAI가 사람들에 대한 잘못된 정보를 생성하는 경향을 포함하여 여러 측면에서 GDPR를 위반했다고 밝혔습니다. 이 소견은 처리의 적법성과 같은 다른 핵심 문제들과 관련이 있습니다.

이탈리아 당국은 OpenAI에게 그들의 판단에 대한 응답을 받을 1개월 시한을 제공했습니다. 최종 결정은 아직 보류 중입니다.

지금 ChatGPT에 대한 또 다른 GDPR 불만이 제기된 상황에서 OpenAI가 다양한 회원국에서 일렬의 GDPR 집행을 마주할 위험이 더 커지고 있습니다.

작년 가을에 회사는 더블린에 지역 사무실을 개설했는데, 이러한 조치는 GDPR의 메커니즘을 통해 회사의 본사가 있는 회원 국가 당국에 특히 개인 정보 불만 사항을 유도하기 위해 이런 조치인 것으로 보입니다.