<앵커>뉴욕시가 소상공인을 돕기 위해 만든 인공지능 기반 챗봇이 지역 정책을 잘못 설명하고 기업이 법을 위반하도록 조언하는 등 잘못된 답변을 제공한다는 비판에 직면했습니다. 유지연 기자가 보도합니다.
뉴욕시의 AI 챗봇이 기업들에게 시의 정책과 상반되는 심지어 법을 어기는 잘못된 답변을 내놓아 비판을 받고 있습니다.
지난주 기술 뉴스 매체인 The Markup에서 이같은 문제를 제기했지만 뉴욕시는 공식 웹사이트에서 챗봇을 그대로 사용하기로 결정했습니다.
에릭 애담스 뉴욕시장은 이번주 열린 기자회견에서 챗봇의 답변이 "일부 영역에서 잘못됐다"고 인정하면서도 이 같은 결정을 옹호했습니다.
지난 10월 사업주를 위한 '원스톱 상점'으로 출시된 이 챗봇은 시의 제도나 시스템과 같은 질문에 대해 알고리즘으로 생성된 텍스트 응답을 사용자에게 제공합니다.
여기에는 때때로 부정확하거나 유해하거나 편향된 정보를 제공 수 있다는 면책 조항과 답변이 법적 조언이 아니라는 경고가 포함됩니다.
하지만 이 시스템은 현재까지도 버젓이 잘못된 지침을 제공하고 있으며, 전문가들은 버그가 있는 시스템을 시가 충분한 안전장치 없이 수용하는 것의 위험성을 지적합니다.
뉴욕대학교의 컴퓨터 과학 교수이자 AI 센터 소장인 줄리아 스토야노비치(Julia Stoyanovich)는 "시가 감독 없이 입증되지 않은 소프트웨어를 출시하고 있다"며 "책임 있는 일을 할 생각이 없다는 것이 분명하다"고 비판했습니다.
2일 기자 회견에서 애담스 시장은 사용자가 문제를 찾을 수 있도록 하는 것은 새로운 기술의 오류를 해결하는 과정의 일부일 뿐이라고 해명했습니다.
하지만 스토야노비치 교수는 그런 접근법을 "무모하고 무책임하다"고 맹비난했습니다.
과학자들은 인터넷에서 가져온 방대한 양의 텍스트로 훈련되고 부정확하고 비논리적인 답변을 뱉어내는 경향이 있는 이러한 종류의 대규모 언어 모델의 단점에 대해 오랫동안 우려를 표명해 왔습니다.
그러나 ChatGPT 및 기타 챗봇의 성공이 대중의 관심을 끌면서 민간 기업이 자체 제품을 출시했지만 결과는 엇갈렸습니다.
이달 초, 법원은 회사 챗봇이 항공사의 환불 정책을 잘못 설명하자 에어캐나다에 고객에게 환불하라 판결을 내렸습니다.
터보택스(TurboTax)와 H&R 블록(H&R Block)도 최근 잘못된 세금 신고 조언을 제공하는 챗봇을 배포했다는 비판에 직면했습니다.
전문가들은 챗봇을 사용하는 다른 도시에서는 일반적으로 챗봇을 더 작은 카테고리로 제한해 잘못된 정보를 줄였다고 말합니다.
로스앤젤레스의 최고정보책임자(CIO)인 테드 로스(Ted Ross)는 로스앤젤레스 시가 대규모 언어 모델에 의존하지 않고 챗봇이 사용하는 콘텐츠도 면밀히 선별했다고 말했습니다.
K-radio 유지연입니다.
AM1660 K-라디오의 기사와 사진에 대한 무단전재 및 재배포를 금지합니다.
COPYRIGHT ⓒ AM1660 K-Radio ALL RIGHT RESERVED