AI 거버넌스, 세 축이 함께 짤 때 비로소 신뢰가 된다

정부도, 공급자도, 소비자도 한 축으로 일어서야 하는 이유.

신뢰는 한순간에 흔들린다

작년 한 사장님이 SNS에 광고 이미지 하나를 올렸다. AI로 5분 만에 만든 이미지였다. 결과는 좋았다. 댓글이 달리고, 문의가 들어오고, 주문이 쏟아졌다. 그러다 일주일 뒤, 후기 게시판이 술렁였다. "사진이랑 실물이 너무 달라요." AI가 만든 광고 이미지가 실제 제품보다 훨씬 그럴듯했던 것이다. 환불 요청이 이어졌고, 결국 광고는 내려갔다.

또 다른 사장님은 정성껏 쓴 인스타 글에 자랑스러운 마음으로 댓글을 기다렸다. 첫 댓글이 달렸다. "이거 AI가 쓴 글이죠?" 그 한 줄 뒤로 분위기가 식었다. 글의 내용이 틀려서가 아니었다. 사장님이 직접 쓴 것처럼 느껴지지 않아서였다.

이런 일들은 이제 남의 가게 이야기가 아니다. AI가 사람의 일을 대신해주는 만큼, AI가 만든 결과물의 책임도 사람에게 돌아온다. 잘못 만든 콘텐츠 한 장이, 잘못 응대한 챗봇 한 마디가, 사람의 신뢰를 한순간에 흔들 수 있다.

여기서 등장하는 단어가 AI Governance다. 어렵게 들리지만, 일반 대중들 입장에서는 단순하다. 사장님이라면, "우리 가게는 AI를 이렇게 씁니다"라고 손님에게 떳떳하게 말할 수 있는가. 그 질문에 답하는 일이다.

AI 거버넌스, 어렵지 않다

그렇다면 AI 거버넌스란 무엇인가. 어렵게 정의할 필요 없다. AI를 쓸 때의 규칙·기준·책임을 미리 정해두는 일이다.

핵심 질문은 세 가지로 압축된다. 첫째, AI가 만든 결과물에 저작권이나 사실관계 문제는 없는가. 둘째, AI가 특정 사람이나 집단에게 불공정하거나 차별적이지는 않는가. 셋째, 무언가 잘못됐을 때, 누가 어떻게 책임지는가.

3자가 함께 짤 때 비로소 작동한다

거버넌스라고 하면 보통 정부가 기업에게, 기업이 직원에게 일방적으로 내려주는 규칙을 떠올린다. 그런데 AI 시대의 거버넌스는 그렇게 한 방향으로만 작동하지 않는다. 정부와 공급자, 그리고 소비자, 이 세 주체가 각자의 자리에서 거버넌스를 짤 때 비로소 진짜 신뢰가 만들어진다. 이것이 상호 거버넌스다.

가장 큰 틀은 국가와 정부 시스템이 짠다. EU와 한국이 2026년부터 본격적으로 AI 관련 법을 시행하는 이유도, 규칙의 기본 틀과 사고가 났을 때의 보호 장치는 사회 전체가 만들어야 하기 때문이다. 그다음이 공급자, 즉 기업이다. 기업 대표는 "우리는 AI를 이런 기준으로 씁니다"를 정해야 한다. 광고에 AI 이미지를 쓸지, 챗봇이 어디까지 응대할지, AI가 만든 콘텐츠임을 소비자에게 알릴지. 이 기준이 없으면 도입부의 두 사장님처럼 신뢰가 한순간에 흔들린다.

마지막 한 축은 소비자다. 정부가 법을 만들고 기업이 기준을 세우면 끝난 것 같지만, 사실은 그렇지 않다. 소비자에게도 거버넌스가 필요하다. 소비자가 스스로 "우리도 거버넌스의 한 축이다"라고 일어서지 않으면, AI 시대의 거버넌스는 결국 정부와 기업의 일방통행이 된다. 위에서 내려준 규칙을 받아들이기만 하면, 소비자는 그 규칙이 자기에게 불리하게 짜여도 알아차리지 못한다.

쓰는 법보다, 안 쓰는 법이 먼저다

거버넌스라는 단어가 어렵게 느껴지는 이유는, 보통 거버넌스를 "AI를 어떻게 잘 쓸 것인가"의 문제로 접근하기 때문이다. 그런데 컨설팅 현장에서 보면 순서가 거꾸로다. AI를 잘 쓰는 사람일수록, 가장 먼저 정해두는 것이 'AI에게 안 맡길 일'이다.

한 분은 챗봇을 도입하면서 응대 매뉴얼을 새로 짰다. 자주 묻는 질문, 가격 문의, 예약 안내까지는 AI가 받는다. 그런데 환불 요청, 컴플레인, 단골고객의 사정 이야기는 무조건 사람이 받는다. 이유는 단순했다. "고객이 마음 상한 순간에는, 효율보다 사람의 온도가 먼저다." 이 한 줄이 그 가게의 거버넌스다.

또 다른 분은 AI로 인스타그램 콘텐츠를 만들지만, 한 가지 규칙을 두고 있다. 본인의 실제 경험이 담긴 글은 AI에게 쓰게 하지 않는다. AI는 정보 정리에만 쓰고, 감정이 들어가는 글은 본인이 직접 쓴다. 팔로워들이 그 차이를 안다는 걸 본인이 알기 때문이다.

이 두 분의 공통점은 분명하다. AI를 쓰기 전에, 나의 본질이 어디까지인가를 먼저 그어둔 것이다. 본질을 지키는 선, 그게 거버넌스의 출발점이다. 큰 기업의 거버넌스가 법 리스크를 막는 일이라면, 작은 기업의 거버넌스는 자기다움을 지키는 일에 가깝다.

소비자가 움직이지 않으면, 일방적 거버넌스가 된다

공급자의 거버넌스가 갖춰지면 절반은 끝난 것처럼 보인다. 그러나 그건 절반일 뿐이다. AI가 만든 광고를 의심 없이 믿고, AI가 추천한 상품을 무조건 사고, AI가 정리한 정보를 한 번도 검증하지 않는다면, 결국 시장 전체가 흔들린다. 공급자가 아무리 책임 있게 AI를 구축하고 사용해도, 소비자의 무비판적 수용 앞에선 의미를 잃는다. 그 신뢰는 진짜가 아니라 떠넘겨진 것에 불과하다는 것이다.

소비자의 거버넌스 또한 거창하지 않다. 광고 사진이 실제와 너무 달라 보이면, 상세페이지의 실사용 후기나 리뷰 영상을 한 번 더 살펴본다. AI가 추천한 식당이라면, 블로그 후기나 지도 앱 리뷰의 최신 글을 한 번 확인한다. AI가 정리해준 정보는, 답변 안에 있는 출처 링크를 한 번 눌러 원문을 확인하거나, 다른 AI에게 같은 질문을 던져 답을 비교해본다. 이 작은 습관들이 모이면 시장 전체의 기준이 바뀐다. 이런 작은 의심과 확인이 소비자의 거버넌스다.

더 중요한 건, 소비자가 "우리도 거버넌스의 한 축이다"라고 먼저 인식하는 일이다. 소비자가 선제적으로 목소리를 낼 때, 정부의 법도 더 정교해지고, 기업의 기준도 더 단단해진다. 일방통행이 쌍방통행으로 바뀌는 지점이 바로 여기다.

세 목소리가 함께 울릴 때

다시 처음의 두 사장님 이야기로 돌아가본다. AI 광고와 실제 제품의 차이로 결국 광고를 내린 사장님과, "AI가 쓴 글이죠?"라는 한 줄에 분위기가 식었던 사장님. 두 사람이 잃은 건 매출이 아니다. 고객과 쌓아온 신뢰다. 그리고 그 신뢰는, 광고비로도 사과문으로도 복원되지 않는다.

AI 거버넌스는 결국 신뢰의 문제다. 정부의 법은 사고를 막는 최소한의 안전망을 깔고, 공급자의 기준은 그 위에서 자기 기업의 본질을 지키는 선을 긋고, 소비자의 습관은 그 둘이 제대로 작동하는지 살피는 눈이 된다. 셋 중 하나라도 빠지면 신뢰의 삼각형은 무너진다. 그래서 거버넌스는 누구 한 사람이 책임지는 일이 아니라, 우리 모두가 각자의 자리에서 한 손씩 거드는 일이다.

AI는 빠르게 발전하고 있고, 앞으로도 우리가 미처 상상하지 못한 자리까지 들어올 것이다. 그때 우리를 지키는 건 더 똑똑한 AI가 아니라, AI를 둘러싼 사람들의 태도다. "우리는 AI를 이렇게 씁니다"라고 말하는 공급자, "나는 AI를 이렇게 받아들입니다"라고 말하는 소비자, "우리는 AI를 통해 이런 사회를 만들겠습니다"라고 말하는 정부. 이 세 목소리가 함께 울릴 때, 비로소 AI는 신뢰할 만한 도구가 된다.

— 장도균, AI거버넌스협회