출처 : 게티이미지뱅크

바야흐로 인공지능의 시대가 왔습니다. 인공지능은 올해 가장 핫한 키워드로 꼽을 수 있는데요.  AI가 꾸준히 발전하면서 수많은 IT 기업이 앞다투어 혁신 기술을 내놓고, 그에 따라 윤리 문제, 보안 문제 등 다양한 문제가 발생하고 있습니다. AI 워싱(AI washing)도 그러한 문제 중 하나입니다.

‘AI 워싱’은 게리 겐슬러 미국 증권거래위원회(SEC) 위원장이 2023년 12월 기업들에 AI 워싱을 하지 말라는 경고를 내놓으면서 주목을 받았습니다. 일부 기업에서 활용 중인 AI가 실제로는 미미하거나 존재하지 않음에도 불구하고 AI 기능을 과장하고 과대 광고를 통해서 수익을 올리기 원하는데 이러한 현상을 바로 AI 워싱이라고 부르는데요. 즉, AI 기술이 제대로 들어가 있지도 않는데 AI가 있다고 과장 광고를 하는 것이죠.

AI 세상, 과연 우리가 접하는 AI가 결합된 서비스, 상품은 정말 진짜일까요?

이번 주 위클리 DnA의 주제는 바로 ‘AI 워싱’입니다.

2016년, 세계 최대 전자상거래 업체 아마존이 무인 결제 편의점 ‘아마존 고’(Amazon Go)를 처음 선보였을 때, 이 서비스는 인공지능(AI)의 선두 주자로 여겨졌습니다. 고객이 구입하려는 제품의 바코드를 찍지 않고 계산대를 지나가기만 해도 센서와 카메라가 물건을 파악해 자동으로 결제가 이뤄진다는 설명 때문이었습니다.

하지만 2024년 4월 외신은 아마존이 아마존 고의 무인 결제 시스템을 운영하기 위해 인도에서 약 1000명의 직원을 고용하고 있다고 보도했고, 당시 아마존은 “인도 근로자들이 검수 작업을 한 것뿐”이라는 입장을 내놓았습니다. 무인 결제 시스템을 보완하기 위해 사람을 고용했다는 의미였죠. 하지만 2022년 기준으로 전체 무인 결제 중 약 70%는 인간이 검토한 것으로 알려졌습니다.

영국 BBC는 아마존 고를 예로 들며 “정확한 세부 사항이 무엇이든, 기업이 AI에 대해 과장하고 있다”며 이런 현상을 ‘그린워싱’에 빗대 ‘AI 워싱’(AI washing)'이라고 지적했습니다. 과거 친환경적이진 않지만 친환경 기업인 것처럼 위장하는 행위를 뜻하는 그린 워싱의 사례가 이번엔 AI 산업에서 나타나는 것인데요.

AI 워싱은 2020년대 들어 AI 기술이 급변하고 AI가 대세로 자리하면서 등장한 것으로, AI의 호황에 편승하고자 하는 기업들이 ‘AI’란 단어를 마케팅 과정에 마구잡이로 사용하면서 문제가 대두되고 있습니다. 이들 기업들은 활용 중인 AI가 없거나 그 기술이 미미함에도 이를 거짓으로 드러내거나 기능을 과장하고, 이에 소비자는 해당 기업의 AI 기술이 실제보다 뛰어나다고 받아들이게 됩니다. 이처럼 AI 워싱은 소비자들의 신뢰를 훼손시키는 것은 물론 기업의 투명성에 대한 우려를 일으킬 수 있습니다.

이렇게 다양한 문제를 일으키고 있는 AI 워싱은 여러 유형과 원인으로 발생하는데요. 먼저 AI 워싱 유형을 살펴보면 아래와 같습니다.

▶ AI를 실제로 사용하지 않으면서 AI를 사용한다고 주장

▶ 기존 기술보다 AI의 효과를 과장

▶ AI 솔루션이 완전히 작동하는 것처럼 과장

▶ 단순히 기존의 비AI운영 소프트웨어에 AI 챗봇을 추가

AI 워싱의 원인은 ▲AI에 대한 높은 주목도 ▲내외부 관계자의 이해부족 ▲AI와 자동화 알고리즘 간 정확한 기준 부재 등으로 꼽히는데, 특히 ChatGPT 이후 생성형 AI에 대한 주목도와 투자자본이 집중되면서 투자 유치를 위한 수단으로 AI 워싱이 비일비재해지고 있습니다.

실제 소형 IT 기술 스타트업 관계자에 따르면 "현재 ICT 업계는 AI라는 수식어 없이는 사실상 투자 유치가 어려울 정도"라며 "AI를 개발, 연구한다고 했을 때 얻을 수 있는 첨단 기술 보유 기업이라는 이미지도 굉장히 메리트가 크다"고 설명했습니다.

한편 홍보·마케팅 등 과정에서 발생하는 기술에 대한 이해력 부족도 AI 워싱이 발생하는 주요 원인 중 하나였습니다. 국내 스타트업 업체의 인터뷰에 따르면 기술 알고리즘이 AI가 아니라 일반 자동화 프로세스를 채택해도 동일한 결과물이 출력될 수 있어 기반 알고리즘에 대한 관심과 이해가 없는 상태에서는 판별이 어려울 수 있고, 이로 인해서 개발자 단위에서 오인하는 일은 없지만 완성된 기술과 상품을 홍보하고 마케팅하는 과정에서 소통 부재 등으로 내부 관계자임에도 AI 워싱을 할 수 있다고 합니다.

AI 붐에 불어닥친 AI 워싱의 증가는 규제의 강화로 이어지고 있습니다. 미국에서도 규제 당국이 이러한 AI 워싱의 문제를 인지하기 시작했고, AI 워싱 기업에 대한 제재를 시작했습니다.

조 바이든 미국 대통령은 2023년 10월 인공지능(AI)의 기술 오용에 따른 위험을 차단하기 위한 행정명령에 서명했고, 실제 미국 증권거래위원회(SEC)는 지난 3월 AI 워싱 혐의로 ‘델피아’와 ‘글로벌 프리딕션스’ 등 2개 기업에 총 40만달러의 벌금을 부과했습니다.

토론토에 본사를 둔 델피아는 2019년부터 2023년까지 SEC 서류와 보도자료, 웹사이트 등에서 투자전략에 AI와 머신러닝 등 고객 데이터를 활용하는 방법에 대해 거짓 홍보를 해왔으며, 2021년 7월 규제당국에 고객 데이터를 사용하는 알고리즘을 만들지 않았다고 시인했지만, 이후에도 광고에서 계속 허위 진술을 해왔다는 혐의를 받고 있습니다.

샌프란시스코에 본사를 둔 글로벌 프리딕션스는 웹사이트와 소셜미디어 등을 통해 자사 플랫폼이 ‘전문화된 AI 기반 예측’을 제공한다고 허위 주장을 한 혐의를 받았습니다. 특히 SEC는 ‘최초의 규제된 AI 투자 자문’ 등 입증할 수 없는 주장을 해온 점이 발각됐다고 밝혔는데요.

이번 두 기업에 대한 벌금액이 천문학적으로 크지는 않지만 향후 여러 빅테크 기업이나 다양한 AI 산업과 맞닿아 있는 기업에는 경고장이 될 수 있다는 것이 업계의 분석입니다.

옥스퍼드 대학교의 인터넷 연구소 교수인 Sandra Wachter는 “우리는 모든 유형의 작업에 AI를 사용하는 것이 항상 의미가 있는지 묻는 것을 잊어버린 것 같다.”고 말했습니다.

기술의 발전과 혁신은 중요하지만, 이러한 발전을 위해서는 기업들이 투명하고 정직한 마케팅을 통해 진실된 정보를 제공하는 것이 필요한데요. 기업 뿐만 아니라, 정부, 소비자 모두 AI 기술에 대한 올바른 인식과 윤리적인 접근으로 건강한 AI 시장 환경이 조성되길 기대해 봅니다.

기업의 성장을 위해 가장 필요한 것 중에 하나는 바로 ‘인적자원’입니다.

알파코도 회사의 성장과 성공을 위한 채용과 인적 자원 관리에 힘쓰고 있는데요.

특히 DX 교육 전문 기업으로서 다양한 사업을 추진/확장하고 있는 만큼 현재 다양한 직군에서 활발히 채용을 진행하고 있습니다.

이번 8월 2일에 발행된 알파코 블로그(바로가기 Click)에서는 신입사원 인터뷰를 통해 알파코의 회사 생활과 채용 정보를 알 수 있는 기회가 있다고 하니, 알파코와 함께 성장하고자 하는 지원자가 있다면 놓치지 마세요!

위클리 DnA를 구독하고 싶다면 여기를 Click(클릭) 해주세요!