인터넷 이용자들의 연령이 젊어지고 있습니다; 이제 영국은 AI가 그들을 보호하는 데 도움이 될 수 있다고 검토하고 있습니다

인공 지능은 사기, 잘못된 정보 및 기타 악의적인 온라인 활동에 대해 어떻게 오용될 수 있는지에 대한 정부의 논점이 되어 왔습니다. 이제 영국 규제 당국은 AI가 어떻게 사용되는지에 대한 탐색을 원하고 있습니다. 특히 아동을 위한 악의적인 콘텐츠와 아동 성착취 자료를 사전에 감지하고 제거할 수 있는 방법을 조사하고 있습니다.

온라인 안전 법을 시행하고 있는 규제 당국인 Ofcom은 현재 AI 및 기타 자동화 도구가 어떻게 사용되고 앞으로 어떻게 사용될 수 있는지에 대한 협상을 시작할 계획을 세우고 있습니다. 특히 아동을 해로운 콘텐츠로부터 보호하고 이전에 감지하기 어려웠던 아동 성착취 자료를 식별하는 데 초점을 맞출 것입니다.

이러한 움직임은 Ofcom이 최근에 발표한 연구와 함께 이루어졌습니다. 어린이들이 종래보다 더 연결된 상태에 있다는 것을 보여주는 연구입니다: 3-4세 아동 중 84%가 이미 온라인에 접속하고 있으며, 조사된 5-7세 중 4분의 1이 이미 스마트폰을 소유하고 있습니다.

Ofcom이 도입할 수 있는 도구들은 온라인 아동 안전 조치에 초점을 맞춘 넓은 제안의 일부일 것입니다. 종합적인 제안에 대한 협상은 다음 몇 주 이내에 시작되고, AI 협상은 올해 나준에 진행될 것이라고 Ofcom은 말했습니다.

Ofcom의 온라인 안전 그룹 이사인 Mark Bunting은 AI에 대한 관심은 현재 이 도구가 얼마나 효과적으로 스크리닝 도구로 사용되고 있는지를 살펴보면서 시작될 것이라고 말했습니다.

“일부 서비스들은 이미 이러한 도구를 사용하여 아동을 이러한 콘텐츠로부터 식별하고 보호하고 있습니다,” 그는 TechCrunch와의 인터뷰에서 말했습니다. “하지만 이러한 도구들이 얼마나 정확하고 효과적인지에 대해 많은 정보가 없습니다. 우리는 서비스 제공업체가 이 도구들을 사용할 때 산정하는 방법을 살펴보고, 표현의 자유 및 개인 정보 보호에 대한 위험을 어떻게 관리하고 있는지 확인하고 싶습니다.”

그 결과로 Ofcom은 플랫폼이 어떻게 평가해야 하는지와 무엇을 평가해야 하는지에 대한 권고를 할 것으로 예상됩니다. 이는 플랫폼이 더 정교한 도구를 채택할 뿐만 아니라 콘텐츠 차단을 개선하거나 더 나은 방법으로 어린 이용자들이 이를 보는 것을 방지하지 못할 경우 벌금을 부과받을 수도 있다는 것을 의미할 수 있습니다.

“많은 온라인 안전 규제와 마찬가지로, 적절한 조치를 취하고 사용자를 보호하기 위한 적절한 도구를 사용하고 있는지를 확인하는 것은 회사들의 책임이다,” 그는 말했습니다.

이러한 변화에 대해 비판하는 사람들과 지지하는 사람들이 있을 것입니다. 예를 들어 인공 지능 연구자들은 딥페이크 등을 감지하는 방법을 찾고 있으며, 인공 지능은 온라인 사용자를 검증하는 데 사용되고 있습니다. 그러나 인식 능력이 완벽하지 않다는 점을 강조하는 많은 비판가들도 있습니다. 이에 따라 협상의 효용성을 강조하는 사람들도 있습니다.

Ofcom의 새로운 연구에 따르면, 오늘날 온라인 서비스를 이용하는 아동의 연령 집단은 종래보다 훨씬 젊어지고 있어서 Ofcom이 이제는 점점 더 어린 연령대 사이에서 활동을 분석하고 있습니다.

모바일 기술은 요즘 어린이들 사이에서 특히 중요하며 증가하고 있습니다. 2,000명에서 3,400명의 응답자를 대상으로 한 부모와 학생들의 설문 조사에서 5-7세 아동의 전체 4분의 1이 이미 자신만의 스마트폰을 소유하고 있으며, 태블릿을 포함하면, 이 비율은 76%로 올라갑니다.

이 연령대는 또한 이러한 기기에서 미디어를 훨씬 더 많이 사용하고 있습니다: 음성 및 비디오 통화를 하는 아동의 65%가 있고 (전년도 동기 대비 59% 였음), 절반 이상의 아동 (전년도 39% 대비)이 스트리밍 미디어를 시청합니다.

일반적인 소셜 미디어 앱의 나이 제한을 낮추는 경향이 있습니다. 그러나 그 제한에 관계없이 영국에서는 거의 무시되는 것 같습니다. Ofcom이 발견했을 때 5-7세 아동의 38%가 소셜 미디어를 사용하고 있습니다. Meta의 WhatsApp이 37%로 가장 인기 있는 앱입니다.

그리고 Meta의 주목받은 이미지 앱이 바이트댄스의 바이러스 센세이션보다 인기가 적어진 것으로 나타난 첫 사례에서, TikTok은 5-7세 아동의 30%가 사용하는 것으로 발견되었습니다. Instagram은 '그냥' 22%입니다. 디스코드가 목록을 마무리하지만, 4%로 상당히 덜 인기 있습니다.

이 연령대 아이들 중 약 32%가 혼자 온라인을 이용하고 있으며, 부모 중 30%가 미성년 아동이 소셜 미디어 프로필을 가지고 있어도 괜찮다고 말했습니다. YouTube Kids는 아직도 어린이들 사이에서 가장 인기 있는 네트워크입니다. 그 비율은 48%입니다.

아이들 사이에서 관객에게 인기 있는 게임은 5-7세 아동의 41%가 사용하는 것으로 성장하고 있으며, 이 연령대의 15%가 슈터 게임을 플레이하고 있습니다.

조사된 부모의 76%가 자신의 어린 아이들과 온라인 안전에 대해 이야기했다고 밝혔지만, Ofcom은 어린이가 보는 것과 그 어린이가 보고 있는 것에 대한 의문을 제기하고 있습니다. 8-17세 아동들에게 직접 인터뷰한 결과, 아이들의 32%가 온라인에서 걱정스러운 콘텐츠를 보았다고 보고했지만, 그들의 부모 중 20%만이 무언가를 신고했습니다.

일부 신고 불일치를 감안해도, “연구는 더 이상 이 연령대 어린이들이 온라인에서 잠재적으로 유해한 콘텐츠를 노출받고 있음과 그들이 온라인 경험에 관해 부모들에게 공유하는 것 사이에 연결이 없다는 것을 시사합니다,”라고 Ofcom은 적었으며. 걱정스러운 콘텐츠는 한 가지 문제일 뿐이며, 딥페이크도 문제입니다. 16-17세 아동들 중 25%가 인터넷에서 가짜 콘텐츠와 진짜 콘텐츠를 구분하기 어렵다고 말했습니다.

연구에서 추가 자세한 내용과 계획에 대한 추가 코멘트로 업데이트되었습니다.