구글 딥마인드와 싱가포르 정부 기술청(GovTech Singapore)이 사기 메시지를 탐지하는 기기 내 인공지능 모델을 공동 개발했습니다. 두 기관은 사용자의 개인정보를 보호하면서 메시지 사기, 특히 대화를 통해 신뢰를 얻은 뒤 돈을 요구하는 수법을 찾아내는 것을 목표로 했습니다.
기업들이 소개한 방식은 두 단계로 작동합니다. 먼저 가벼운 분류 모델이 들어오는 메시지를 살펴 잠재적인 위협을 찾습니다. 이후 의심스러운 메시지가 있으면 미세 조정한 젬마 모델이 대화의 더 큰 맥락을 분석해 사기인지 확인하거나 잘못된 경고를 걸러냅니다.
두 기관은 이 협력이 종단간 암호화를 유지하면서도 메시지 이용자를 보호하는 방법을 살펴보는 사례라고 설명했습니다. 종단간 암호화는 메시지를 보내는 사람과 받는 사람만 내용을 볼 수 있도록 하는 방식입니다. 발표는 싱가포르 국제 사이버 주간 행사에서 소개됐습니다.
발표 자료는 개발 과정에서 엄격한 관리 체계를 유지했다고 밝혔습니다. 다만 이 자료만으로는 모델의 탐지 정확도나 일반 사용자 대상의 출시 시점, 지원 메시지 앱을 확인할 수 없습니다.