해외 바카라 사이트 챗봇, 허위정보 생성 '환각' 문제 심각..."모른다고 말하게 해야"

생성형 해외 바카라 사이트 챗봇이 허위 정보를 생성하는 '환각' 문제가 심각한 사회적 과제로 대두되면서, 연구진들이 해외 바카라 사이트에게 '모른다'고 말하는 법을 가르치는 새로운 해결방안을 제시했다고 월스트리트저널(WSJ)이 11일(현지시각) 보도했다.

WSJ에 따르면, 해외 바카라 사이트 챗봇들은 복잡한 수학 문제를 해결하고 인간과 유사한 대화를 구현할 수 있음에도 기본적인 사실관계에서 오류를 범하고 있다. 이들은 법률 사례를 날조하고, 유명 영화나 책의 내용을 혼동하며, 심지어 존재하지 않는 인물 관계를 만들어내고 있다.

독일 하소 플랫너 연구소의 해외 바카라 사이트 박사과정생들인 로이 코헨과 콘스탄틴 도블러는 해외 바카라 사이트 모델 개발 초기 단계부터 불확실성을 인지하도록 훈련하는 방법을 개발했다. 이들은 2023년 12월 벤쿠버에서 열린 해외 바카라 사이트 연구자 연례회의 '뉴립스(NeurIPs)'에서 해외 바카라 사이트가 '모른다'고 말하게 함으로써 응답의 정확도를 높일 수 있다는 연구 결과를 발표했다.

보스턴컨설팅그룹(BCG) X의 매트 크롭 최고기술책임자는 WSJ와의 1월 30일 인터뷰에서 "해외 바카라 사이트 환각은 훈련 데이터의 부정확성과 사용자의 불명확한 지시라는 두 가지 요인에서 발생한다"며 "이 중 사용자 지시는 개선이 가능하다"고 밝혔다. 가트너의 데린 스튜어트 애널리스트는 같은 인터뷰에서 "프롬프트는 상세하되 질문과 직접 관련된 내용만 포함해야 한다"고 조언했다.
해외 바카라 사이트 기업 앤트로픽의 아만다 아스켈은 "해외 바카라 사이트가 자신의 한계를 인지하고 이를 전달하도록 하는 것이 현재로서는 최선의 해결책"이라고 말했다. 앤트로픽의 해외 바카라 사이트 챗봇 클로드는 인터넷에서 찾기 어려운 정보를 질문받았을 때 답변이 환각일 수 있다고 경고하도록 설계되어 있다.

스페인 발렌시아 인공지능연구소의 호세 에르난데스-오랄로 교수는 "어려운 질문에 대해 '답할 수 없다'고 말하는 것이 신뢰를 쌓는다"며 "우리는 해외 바카라 사이트를 만들 때 이러한 상식적인 조언을 따르지 않고 있다"고 지적했다.

존스홉킨스대학 연구팀은 2025년 1월 발표한 보고서에서 해외 바카라 사이트 챗봇의 환각을 최소화하기 위한 7가지 기법을 제시했다. 연구팀은 상세한 지시하기, 단계별 질문하기, 신뢰할 수 있는 데이터베이스 활용하기 등을 권장했다. 특히 "새 식기세척기가 필요합니다. 미국 시장의 현재 판매 모델 중 고려해야 할 주요 기능은 무엇입니까?"와 같이 구체적인 질문을 하도록 조언했다. 연구팀은 이외에도 해외 바카라 사이트에게 질문을 만들어 달라고 요청하는 '메타 프롬프트', 논리적 단계를 밟아가며 답변하도록 하는 '생각의 사슬', 해외 바카라 사이트가 스스로 답변을 검토하고 수정하는 '검증의 사슬' 기법도 제시했다.

기업들도 해외 바카라 사이트 환각으로 인한 피해를 겪고 있다. PYMNTS는 애플이 2025년 1월 6일 iOS 베타 버전의 해외 바카라 사이트 뉴스 요약 기능을 중단했다고 보도했다. BBC는 에어캐나다가 자사 챗봇의 잘못된 할인 정책 안내로 800달러를 배상하라는 판결을 받았다고 전했다. 구글의 해외 바카라 사이트는 '하루에 작은 돌 섭취를 권장한다'는 위험한 조언을 제시했으며, 오픈해외 바카라 사이트의 음성인식 소프트웨어 '위스퍼'는 실제 대화에 없는 발언을 추가했다고 각 회사가 발표했다. 메타의 과학 논문 생성 해외 바카라 사이트 '갈락티카'는 가짜 논문을 만들어내기도 했다.

2023년 미국 퓨리서치센터의 조사에 따르면, 해외 바카라 사이트에 대해 우려를 표명하는 미국인의 비율이 2021년 37%에서 52%로 증가했다. PYMNTS에 따르면 챗GPT 3.5는 2024년 기준 전체 출력의 2.5%에서 환각이 발생했다. 국경없는기자회의의 뱅상 베르티에 기술·저널리즘 부문 책임자는 2024년 12월 18일 그룹 웹사이트를 통해 "자동 생성 허위정보가 언론의 신뢰도를 치명적으로 훼손할 수 있다"고 경고했다.

옥스퍼드대학 연구진은 2025년 1월 발표한 논문에서 "고품질 데이터셋 강화와 검색 증강 생성(RAG) 기술 도입으로 해외 바카라 사이트 환각 위험을 낮출 수 있다"고 제시했다. RAG 기술은 해외 바카라 사이트 모델이 웹이나 문서 라이브러리를 검색해 기존 지식을 보완하는 방식이다.


박정한 해외 바카라 사이트 기자 park@g-enews.com