구글의 인공지능(AI) 요약 기능이 잘못된 건강 정보를 제공해 사람들에게 위험을 초래할 가능성이 있다고 영국 일간 가디언이 2일(현지시간) 보도했다.
구글은 생성형 AI를 활용해 특정 주제나 질문에 대한 핵심 정보를 간단히 제시하는 'AI 오버뷰' 기능이 유용하고 신뢰할 수 있다고 밝혀왔다.
그러나 가디언 조사 결과 검색 결과 최상단에 표시되는 'AI 오버뷰'가 부정확한 건강 정보를 제공해 사람들의 건강을 위협하는 것으로 나타났다.
췌장암 자선단체 '췌장암 영국'의 연구·지원 담당자 안나 주얼은 "이 검색 결과를 그대로 따르면 충분한 열량을 섭취하고 체중을 늘리기 어려워지며, 항암치료나 생명을 살리는 수술을 견디지 못할 수 있다"고 설명했다.
또 간 혈액 검사의 정상 범위를 검색하면 간 질환자들이 자신이 건강하다고 오해할 수 있는 정보가 제공됐다.
수많은 수치 나열에 근거 설명은 거의 없었고, 환자의 국적·성별·인종·연령 등에 따른 차이도 고려되지 않았다.
간 질환 자선단체 '영국 간 신탁'의 파멜라 힐리 대표는 "심각한 간 질환이 있는 사람들이 본인 검사 결과를 정상으로 생각하고 후속 진료를 받지 않을 수 있어 위험하다"고 경고했다.
가디언은 여러 보건 단체와 의료 전문가들이 부정확한 건강 정보에 관한 우려를 제기한 이후 구글 'AI 오버뷰'를 조사해 이런 사례를 다수 확인했다.
건강 정보를 제공하는 '환자정보포럼'의 소피 랜들 이사는 "이번 사례는 구글 'AI 오버뷰'가 정확하지 않은 건강 정보를 온라인 검색 최상단에 올려 사람들의 건강에 위험을 초래할 수 있음을 보여준다"고 말했다.
구글 측은 'AI 오버뷰'가 제공하는 정보 대다수는 사실에 기반해 유용하며, 지속해서 품질을 개선하고 있다고 밝혔다.
잘못된 건강 정보 검색 결과와 관련해 구글 대변인은 제시된 사례 상당수가 "불완전한 스크린샷"이라고 주장했다.
아울러 회사 측이 확인한 범위에서는 "잘 알려지고 신뢰할만한 출처로 연결돼 있고, 전문가 조언을 구하도록 권고하고 있다"고 말했다.
