"남의 데이터로 학습한 AI 모델은 쓰고 싶지만 이를 개선하는데 내 데이터는 내놓고 싶지 않아."

만약 취미 프로젝트를 구체화하기 위해 챗GPT와 대화하고 있다면, 나는 대화 기록이 OpenAI로 넘어가는 데에 불만이 없다. 챗GPT가 등장하기 전에도 인터넷을 통해 새로운 지식을 얻었고, 이를 바탕으로 내 경험을 더하여 다시 공개하는 것에도 주저함이 없었다. 누구든지 이를 이용하여 시행착오를 줄일 수 있다면 좋은 일 아니겠는가? 자유로운 지식 공유와 활용 및 확산의 선순환 구조에 기여한다는 생각과 함께.

내 취미 프로젝트가 비즈니스로 확장될 가능성이 있다면? 즉, 뭔가를 DIY로 만들어서 개념 검증(PoC, Proof of Concept)까지 끝나서 어쩌면 제품화까지 가능할 것 같은 생각이 든다면, 이와 관련한 정보를 더 이상 세상에 알리고 싶지 않을 것이다. 물론 남이 내 데이터로 학습한 AI모델과 대화하면서 구체적인 내 아이디어를 '도용'할 가능성은 매우 적지만 말이다. 어쩌면 PoC까지 가기 전 단계에서 이렇게 차단에 대한 결정을 내리게 될 수도 있다.

업무용 목적으로 챗GPT를 쓰는 경우에 비슷한 고민을 하게 될 것이다. 아직 세상에 알리고 싶지 않은 설익은 아이디어가 챗GPT를 학습하는 용도로 흘러들어가 쓰이게 되면, 그 아이디어를 빼앗기는 것과 다름없으므로.  그래서 많은 기업에서는 사내에서 챗GPT를 쓰지 못하게 하는 것으로 알려져 있다.

삼성전자, 챗GPT 사용 금지...보안상 별도 생성형 AI 개발(경향신문 2023년 5월 2일)

정부출연연구소는 민간 기업만큼 심각하지는 않다 하더라도 어느 정도 주의를 할 필요는 있다. 위 기사와 같은 해에 국가정보원의 국가사이버안보센터는 챗GPT 등 생성형 AI활용 보안 가이드라인(2023.6.)을 배포한 바 있다. 이게 벌써 2년 전의 일이고, 그 사이에 생성형 AI의 발전은 정말 괄목할 수준이었다.

이러한 우려에 발맞추어 OpenAI에서도 사용자의 콘텐츠를 훈련에 사용하지 않도록 설정할 수 있다. 그러나 기본 설정은 이를 사용하게 허용하는 것이고, 거부하려면 옵트아웃(opt-out)을 해야 된다.

여러분이 우리와 콘텐츠를 공유하면, 이는 모델이 여러분의 구체적인 문제를 더 정확하게 해결하도록 돕고, 동시에 일반적인 능력과 안전성 역시 향상시키는데 기여합니다. 우리는 여러분의 콘텐츠를 우리의 서비스를 마케팅하거나 여러분에 대한 광고 프로필을 만드는 데 사용하지 않습니다 — 우리는 그것을 모델을 더 유용하게 만들기 위해서만 사용합니다. 예컨대 ChatGPT는, 여러분이 옵트아웃(거부)하지 않는 한 사람들이 나누는 대화에 대해 추가 훈련을 거치며 개선됩니다. [출처: OpenAI Help Center - How your data is used to improve model performance]

참고로 OpenAI Help Center의 글은 정책이 바뀜에 따라서 수정될 수 있다. 대화 데이터를 학습용으로 사용할 수 있는 기본 설정을 그대로 유지한다 하여도 이 데이터는 익명화된다.

나도 오늘부터 기본 설정을 바꾸어 "옵트아웃"하기로 결정하였다. 웹브라우저로 접속한 뒤 왼쪽 아래의 설정으로 들어가서 다음과 같이 [데이터 제어] -> [모델 개선]을 끄면 된다. '모두를 위한' 모델 개선이라고 해 놓은 것을 보면 이 스위치를 켜진 상태로 두는 것이 바람직하다는 느낌을 주려고 무척 애를 쓴 것 같다.

이 스위치를 켜면 파랗게 표시된다.

바로 이것이 제목으로 나타낸 바와 같이 요즘 우리의 솔직한 입장이다. "남의 데이터로 학습한 AI 모델은 내 업무에 철저하게 쓰고 싶지만, 내 데이터는 모델 학습에 쓰지 마라!" 나도 어쩔 수 없이 약간의 불안감에 이 스위치를 끄고 말았지만, 이는 매우 이중적인 태도이다. 상호주의 없이 얻기만 원하면서 동시에 관련 생태계의 지속가능성을 해치는 일이 될 수 있다.

저 파란색 스위치는 어쩌면 모두의 이익이라는 수사를 쓰고 있지만 OpenAI의 수익 증대를 에둘러 표현한 것일지도 모른다. 그러나 이러한 열망이 조금씩 버무려져서 균형을 맞추며 세상이 굴러간다고 봐야 하지 않을까. 어쨌든 나는 그 '균형'의 바큇살에서 일단 빠져 나오기로 하였다. 유료 플랜을 구독하고 있는 것으로 내 역할을 다 하고 있다고 생각하면서. 생각해보니 이 또한 맞는 말이다.

우선 일상적으로 수사학은 경멸적인 의미로 사용된다 - 박성창 <수사학>