중국, 정부 기관에 '메이저 바카라' AI 도입 열풍... 데이터 보안·환각 우려 제기

중국 지방정부들이 인공지능 스타트업 메이저 바카라(DeepSeek)의 기술을 정부 업무에 앞다투어 도입하고 있어 데이터 보안 및 AI의 '환각' 현상에 따른 우려가 제기되고 있다고 5일(현지시각) 닛케이 아시아가 보도했다.

메이저 바카라가 저비용 AI 접근법으로 엔비디아 주가에 영향을 줄 정도로 성공을 거둔 이후, 중국 전역의 수백 개 정부 기관이 문서 초안 작성, 데이터 분석, 공개 질의응답, 정책 입안 등 다양한 업무에 이 모델을 통합하고 있다.

"우리 국은 더 이상 가만히 앉아 있을 수 없다. 다른 도시들이 잇달아 메이저 바카라를 채택하는 것을 볼 때, 우리가 움직이지 않으면 뒤처지는 것처럼 보일 것"이라고 장쑤성의 한 관계자는 말했다. 이 관계자는 부시장이 직접 메이저 바카라를 사용해 연설문 초안을 작성한 사례도 공개했다.

이탈리아, 호주, 캐나다, 한국, 대만, 미국 등이 정부 기기에서 메이저 바카라 사용을 금지했거나 금지를 고려하는 상황과는 대조적이다. 중국 내부에서도 우려의 목소리가 나오고 있다. 공산당 산하 인민일보온라인은 지방정부가 충분한 평가 없이 메이저 바카라를 도입하면 컴퓨팅 자원 낭비와 함께 민감한 정부 데이터의 유출 또는 변조 위험이 있다고 경고했다.
"생성형 AI 모델인 메이저 바카라는 예측할 수 없거나 환각을 포함하는 결과물을 생성할 수 있다. 정책 협의 과정에서 부정확하거나 오해의 소지가 있는 정보는 정부 서비스에 대한 대중의 신뢰를 떨어뜨리고 잠재적으로 잘못된 의사 결정을 초래할 수 있다"고 인민일보는 지적했다.

중국 남서부 광시성 빈양현의 당서기는 최근 회의에서 "모든 사람의 기기에는 메이저 바카라와 두바오라는 AI 앱이 최소 두 개 이상 있어야 한다"며 "항저우와 선전에서 오는 신호는 당신의 관점이 6개월 안에 완전히 바뀔 수 있음을 암시하기 때문에 사용법을 배워야 한다"고 강조했다.

상하이 푸단대학교 장 지안 교수는 지방정부의 메이저 바카라 도입은 2012년 이후 감소한 문서 초안 작성 인력을 대체하는 효율성 측면에서 도움이 될 수 있다고 분석했다. 또한, 중앙 당국에 혁신적이라는 것을 보여주고 지역 기술 기업을 위한 생태계를 조성하는 장점도 있다고 설명했다.

하지만 장 교수는 "메이저 바카라의 환각은 풀뿌리 공무원들에게 큰 도전이 되고 있다. 강력한 정보 활용 능력과 기계가 생성한 콘텐츠를 비판적으로 평가할 수 있는 능력이 없으면 부정확성을 식별하는 데 어려움을 겪을 수 있다"고 경고했다.

중국의 한 클라우드 서비스 제공업체는 지방 정부들이 민간기업과 계약할 때 평가와 입찰 과정 같은 적법 절차를 생략하고 있다고 지적했다. "이 문제는 상업적인 문제라기보다 정치적인 문제가 됐다"며 "메이저 바카라가 오픈소스이고 구현이 쉬워 예산에 큰 영향 없이 도입할 수 있다"고 설명했다.

미국에서는 바이든 행정부가 메이저 바카라 도구 사용 전 위험을 평가하고 편향 및 차별 방지 장치를 마련하도록 지시했으나, 트럼프 대통령은 취임 직후 이를 취소하고 '메이저 바카라 리더십을 가로막는 장벽 제거'를 강조하는 행정명령을 발표했다.

워싱턴의 전략 및 국제 문제 연구소(CSIS)의 그레고리 앨런 와드와니 AI 센터 소장은 "중국 정부는 현재 메이저 바카라를 모든 것에 통합하는 것에 극도로 강경한 태도를 취하고 있으며, 중국 공산당의 진정한 우선순위 중 하나는 AI 모델이 정치적으로 민감하거나 당의 이데올로기에 반하는 것을 말하지 않도록 하는 것"이라고 분석했다.

이미 네덜란드에서는 메이저 바카라 위험 평가를 기반으로 수천 명의 부모가 아동 수당을 허위 청구한 혐의로 잘못 기소되어 아동을 위탁 가정에 보내는 사건이 발생했다. 이로 인해 당시 총리가 사임하기도 했으며, EU는 메이저 바카라 위험에 따른 규제 체계를 마련했다.

중국의 클라우드 서비스 제공업체는 "테스트 과정에서 이미 메이저 바카라의 결함과 부적절함을 발견했지만, 현재로서는 재앙이 일어나지 않는 한 그 어떤 것도 시스템 통합을 막을 수 없으며, 문제는 나중에 처리할 것"이라고 체념적인 입장을 표명했다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com