챗봇 대화 기록 삭제 전 확인해야 할 데이터 보관 설정

생성형 AI에서 개인정보 유출을 조심해야 하는 이유

생성형 AI는 이용자가 입력한 질문이나 요청에 따라 글, 이미지, 음성 등 새로운 결과물을 만들어내는 기술입니다. 검색어 몇 개만 입력하는 일반적인 검색과 달리 긴 대화를 이어가거나 문서와 파일을 업로드하는 경우가 많습니다.

문제는 이용자가 더 정확한 답변을 받으려고 구체적인 정보를 계속 입력할수록 개인정보가 포함될 가능성도 높아진다는 점입니다.

예를 들어 다음과 같은 내용은 한 번만 보면 별문제가 없어 보일 수 있습니다.

• 근무하는 회사나 부서 정보가 포함될 수 있습니다.

• 거주 지역이나 자주 방문하는 장소가 포함될 수 있습니다.

• 가족관계나 동료의 직책이 포함될 수 있습니다.

• 일정, 업무 내용, 거래처 정보가 포함될 수 있습니다.

• 파일명이나 문서 본문에 이름과 연락처가 남아 있을 수 있습니다.

각각의 정보만으로는 개인을 바로 특정하기 어려울 수 있습니다. 하지만 한 번의 대화에서 안전해 보이는 정보도 여러 대화와 문서를 통해 누적되면 개인 식별 가능성이 커질 수 있습니다.

따라서 생성형 AI 개인정보 보호는 단순히 주민등록번호를 입력하지 않는 수준에서 끝나지 않습니다. 입력 내용, 대화 기록, 업로드 파일, 외부 서비스 연동까지 함께 관리해야 합니다.

1. 입력한 내용이 AI 학습에 활용되는지 확인하세요

생성형 AI 서비스를 처음 사용할 때 가장 먼저 확인할 부분은 입력한 데이터가 서비스 개선이나 AI 학습에 활용되는지 여부입니다.

서비스마다 데이터 처리 방식과 설정 항목이 다를 수 있습니다. 같은 서비스라도 개인용과 업무용 상품의 정책이 다를 수 있으므로 이용 중인 서비스의 개인정보 처리방침과 데이터 설정 화면을 직접 확인하는 것이 좋습니다.

학습 활용 제한 설정을 확인하세요

설정 메뉴에서 다음과 관련된 항목이 있는지 살펴보시는 것이 좋습니다.

• 대화 내용의 모델 개선 활용 여부를 확인합니다.

• 입력 데이터의 학습 활용 여부를 확인합니다.

• 데이터 제공을 제한하는 설정이 있는지 확인합니다.

• 옵트아웃 기능을 제공하는지 확인합니다.

여기서 옵트아웃은 이용자가 자신의 데이터가 특정 목적으로 활용되는 것을 거부하거나 제한하는 선택을 의미합니다.

설정 명칭과 제공 범위는 서비스마다 다를 수 있습니다. 따라서 단순히 계정을 만들고 기본 설정 그대로 사용하는 것보다 내가 입력한 정보가 어떤 방식으로 처리되는지 먼저 확인하는 습관이 필요합니다.

중요한 인증 정보는 입력하지 마세요

설정을 변경했다고 해서 모든 정보를 자유롭게 입력해도 되는 것은 아닙니다. 다음과 같은 정보는 생성형 AI 대화창에 입력하지 않는 것이 안전합니다.

• 주민등록번호

• 비밀번호

• 일회용 인증코드

• 계정 복구 코드

• 금융 거래에 필요한 중요 정보

• 다른 사람이 보낸 인증 정보

특히 프로그램 오류나 로그인 문제를 질문하면서 설정 파일 전체를 복사해 붙여넣는 경우가 있습니다. 이때 API 키, 접근 토큰, 비밀번호와 같은 인증 정보가 함께 들어갈 수 있으므로 개발자와 서버 관리자는 더욱 주의해야 합니다.

AI에 질문하기 전에 입력 내용을 한 번 더 읽고 인증 정보가 포함되어 있지 않은지 확인하는 과정이 필요합니다.

2. 대화 기록 저장과 삭제 설정을 점검하세요

생성형 AI를 사용한 뒤 대화창을 닫았다고 해서 모든 기록이 바로 사라진다고 생각해서는 안 됩니다. 서비스에 따라 대화 기록이 계정에 남거나 일정한 정책에 따라 보관될 수 있습니다.

따라서 서비스를 자주 이용한다면 대화 기록 삭제 기능과 데이터 보관 정책을 함께 확인하는 것이 좋습니다.

기본으로 켜진 기록 기능을 확인하세요

대화 기록 기능이 있다면 현재 설정이 어떻게 되어 있는지 확인해 보셔야 합니다.

필요하지 않은 대화를 계속 보관할 이유가 없다면 기록 기능을 끌 수 있는지 살펴보시는 것이 좋습니다. 이미 저장된 대화 중 개인정보나 업무 정보가 포함된 내용이 있다면 삭제 기능을 이용할 수 있는지도 확인해야 합니다.

다만 화면에서 대화를 삭제하는 것과 서비스 사업자의 데이터 보관 정책이 항상 같은 의미는 아닐 수 있습니다. 정확한 처리 방식은 해당 서비스의 정책을 확인해야 합니다.

로그아웃만으로 끝내지 마세요

공용 컴퓨터나 업무용 기기에서 생성형 AI를 사용했다면 로그아웃만 하고 끝내기보다 기기에 남은 파일도 확인하는 것이 좋습니다.

예를 들어 AI에 업로드하기 위해 다운로드 폴더나 바탕화면에 복사해 둔 문서가 그대로 남아 있을 수 있습니다. 수정한 파일이나 임시 저장본도 확인할 필요가 있습니다.

특히 여러 사람이 사용하는 기기라면 다음 순서로 점검하시는 것이 좋습니다.

1. AI 서비스에서 로그아웃합니다.

2. 필요한 경우 대화 기록을 삭제합니다.

3. 다운로드 폴더와 바탕화면을 확인합니다.

4. 업로드를 위해 복사한 파일을 삭제합니다.

5. 브라우저에 계정 정보가 저장되어 있지 않은지 확인합니다.

온라인 대화 기록과 기기에 남은 파일은 별도로 확인해야 합니다.

3. 대화와 문서에 개인정보가 포함되어 있는지 확인하세요

생성형 AI 개인정보 유출을 막는 가장 효과적인 방법 중 하나는 입력하기 전에 개인정보를 제거하는 것입니다.

AI에 입력하지 않은 정보는 대화 과정에서 새롭게 노출될 가능성도 줄어듭니다. 따라서 질문을 작성한 뒤 바로 전송하기보다 개인을 식별할 수 있는 내용이 있는지 확인하는 과정이 중요합니다.

본인 정보만 확인하면 부족합니다

개인정보를 점검할 때는 자신의 정보뿐 아니라 가족, 친구, 동료, 고객 등 제3자의 정보도 확인해야 합니다.

예를 들어 다음과 같은 요청은 주의가 필요합니다.

• 고객 문의 내용을 그대로 붙여넣고 답변을 작성해 달라고 요청하는 경우입니다.

• 직원 명단이 포함된 문서를 요약해 달라고 요청하는 경우입니다.

• 가족의 병원이나 학교 관련 문서를 그대로 입력하는 경우입니다.

• 이메일 내용을 전달하면서 상대방의 연락처를 지우지 않는 경우입니다.

• 계약서를 업로드하면서 이름과 주소를 그대로 남기는 경우입니다.

AI에게 필요한 것은 대개 개인정보 자체가 아니라 문장의 구조, 문제 상황, 문서의 핵심 내용입니다. 따라서 이름은 A씨나 담당자로 바꾸고, 전화번호와 주소 등은 삭제한 뒤 질문하는 방식이 더 안전합니다.

개인정보를 가린 뒤 입력하세요

문서나 대화 내용을 AI에 입력해야 한다면 다음과 같이 바꿀 수 있습니다.

중요한 점은 일부 정보만 가리고 안심해서는 안 된다는 것입니다. 이름을 지웠더라도 회사명, 직책, 지역, 일정과 같은 정보가 함께 있으면 특정인을 추정할 가능성이 생길 수 있습니다.

개별 정보가 아니라 입력 내용 전체를 보고 식별 가능성을 판단하는 것이 중요합니다.

4. 업무 자료와 조직 내부 정보는 별도 기준으로 관리하세요

개인적인 질문과 회사 업무는 같은 기준으로 다루기 어렵습니다. 업무 자료에는 고객 개인정보뿐 아니라 영업 정보, 개발 자료, 계약 내용, 인사 정보 등 외부 공개가 제한된 내용이 포함될 수 있습니다.

따라서 업무 목적으로 생성형 AI를 사용하기 전에는 소속 조직의 AI 서비스 이용 지침을 먼저 확인해야 합니다.

회사에서 승인한 도구를 사용하세요

개인적으로 가입한 무료 AI 서비스와 조직에서 승인한 업무용 도구는 데이터 처리 방식이나 관리 정책이 다를 수 있습니다.

회사가 업무용 생성형 AI 서비스를 별도로 지정했다면 승인된 도구를 사용하는 것이 좋습니다. 또한 조직에서 허용하지 않은 외부 서비스에 내부 문서를 업로드하지 않아야 합니다.

업무 자료를 사용할 때는 다음 사항을 확인하시는 것이 좋습니다.

• 회사의 생성형 AI 이용 지침이 있는지 확인합니다.

• 조직에서 승인한 AI 서비스인지 확인합니다.

• 외부 반출이 가능한 자료인지 확인합니다.

• 별도의 반출 승인 절차가 있는지 확인합니다.

• 고객이나 직원의 개인정보가 포함되어 있는지 확인합니다.

개발자도 소스코드를 그대로 붙여넣지 않는 것이 좋습니다

개발 업무에서는 오류 해결을 위해 소스코드와 로그를 생성형 AI에 입력하는 일이 많습니다. 이때 코드 자체보다 코드 안에 포함된 정보가 문제가 될 수 있습니다.

예를 들어 다음 내용은 입력 전에 확인해야 합니다.

• 데이터베이스 접속 정보

• 서버 주소와 내부 IP

• API 키와 접근 토큰

• 실제 사용자 데이터

• 고객 이름과 연락처가 포함된 로그

• 회사 내부 도메인과 시스템 구조

• 공개되지 않은 소스코드와 업무 로직

오류를 재현하는 데 꼭 필요한 부분만 남기고 나머지는 제거하는 방식이 좋습니다. 실제 데이터 대신 임의의 예시 데이터를 사용하면 개인정보와 내부 정보 노출 위험을 줄일 수 있습니다.

업무 자료는 편리함보다 조직의 승인 절차와 보안 기준이 우선되어야 합니다.

5. AI 답변에서 개인정보를 발견했다면 공유하지 마세요

생성형 AI가 만든 답변에 본인이나 다른 사람의 개인정보로 보이는 내용이 포함될 수도 있습니다. 이 경우에는 호기심 때문에 다른 사람에게 보내거나 온라인에 게시하지 않는 것이 중요합니다.

개인정보보호위원회 가이드에서는 다음과 같은 대응 방법을 안내하고 있습니다.

첫 번째는 공유를 중단하는 것입니다

해당 답변을 메신저로 전달하거나 게시판, 블로그, 커뮤니티에 올리지 않는 것이 우선입니다.

개인정보가 실제 정보인지 확실하지 않더라도 공개 범위를 넓히지 않는 것이 좋습니다.

두 번째는 필요한 증빙을 확보하는 것입니다

사업자에게 신고하거나 문의할 필요가 있다면 상황을 확인할 수 있도록 화면을 캡처해 두는 것이 좋습니다.

다만 증빙 자료 자체에도 개인정보가 포함될 수 있으므로 불필요하게 공유하지 않아야 합니다.

세 번째는 대화와 파일을 삭제하는 것입니다

해당 개인정보가 포함된 대화와 업로드 파일을 삭제할 수 있는지 확인합니다. 사용 중인 기기에 관련 파일이 남아 있다면 함께 정리하는 것이 좋습니다.

네 번째는 불필요한 연동을 해제하는 것입니다

AI 서비스와 이메일, 클라우드 저장소, 일정, 연락처 등 외부 서비스가 연결되어 있다면 필요한 연동인지 다시 확인합니다.

사용하지 않는 권한은 회수하는 것이 좋습니다.

다섯 번째는 사업자에게 조치를 요청하는 것입니다

서비스에서 제공하는 신고 또는 문의 채널을 통해 상황을 알리고 필요한 조치를 요청할 수 있습니다.

정리하면 다음 순서로 대응할 수 있습니다.

공유 중단 → 증빙 확보 → 대화·파일 삭제 → 불필요한 연동 해제 → 사업자 신고·문의

개인정보가 포함된 답변을 발견했을 때는 내용을 더 확인하기 위해 반복해서 공유하거나 확산하기보다 노출 범위를 줄이는 것이 우선입니다.

6. 외부 서비스 연동 권한은 필요한 만큼만 허용하세요

최근 생성형 AI 서비스는 단순한 대화 기능을 넘어 다양한 외부 서비스와 연결되는 방향으로 발전하고 있습니다.

이메일, 클라우드 저장소, 문서 관리 도구 등과 연결하면 편리하지만, 연결 범위가 넓어질수록 AI 서비스가 접근할 수 있는 정보도 많아질 수 있습니다.

모든 권한을 한꺼번에 허용하지 마세요

서비스가 기능별 또는 권한별 선택을 제공한다면 필요한 범위에서만 연결하는 것이 좋습니다.

예를 들어 특정 작업에 파일 접근만 필요하다면 다른 기능까지 모두 허용할 필요가 있는지 확인해야 합니다.

외부 서비스를 연동할 때는 다음 내용을 살펴보시는 것이 좋습니다.

• 어떤 서비스와 연결되는지 확인합니다.

• 어떤 데이터에 접근하는지 확인합니다.

• 읽기 권한과 수정 권한을 구분할 수 있는지 확인합니다.

• 연결 기간을 제한할 수 있는지 확인합니다.

• 사용 후 권한을 해제할 수 있는지 확인합니다.

요구하는 권한이 실제 기능에 비해 지나치게 넓다고 느껴진다면 연동 필요성을 다시 판단하는 것이 좋습니다.

생성형 AI 사용 전 30초 개인정보 점검표

생성형 AI를 사용할 때마다 복잡한 보안 절차를 진행하기는 어렵습니다. 대신 질문이나 파일을 전송하기 전에 다음 항목을 빠르게 확인하면 실수를 줄이는 데 도움이 됩니다.

• 주민등록번호나 인증 정보가 포함되어 있지 않은지 확인합니다.

• 이름, 전화번호, 이메일, 주소가 남아 있지 않은지 확인합니다.

• 가족, 동료, 고객 등 다른 사람의 정보가 없는지 확인합니다.

• 여러 정보를 합치면 특정인을 알아볼 수 있는지 생각해 봅니다.

• 회사 내부 자료를 외부 AI에 입력해도 되는지 확인합니다.

• API 키, 토큰, 비밀번호가 코드나 로그에 포함되어 있지 않은지 확인합니다.

• 업로드 파일의 본문과 파일명을 함께 확인합니다.

• 외부 서비스 연동 권한이 꼭 필요한지 확인합니다.

이 중 하나라도 확신하기 어렵다면 개인정보를 삭제하거나 임의의 정보로 바꾼 뒤 입력하는 것이 좋습니다.

개인 사용자와 직장인의 주의사항은 어떻게 다를까요?

개인 사용자와 직장인은 공통적으로 개인정보 입력을 줄여야 하지만, 업무용 AI 사용에는 조직의 내부 기준이 추가됩니다.

개인 사용자는 자신의 계정과 대화 기록 관리가 중심이지만, 직장인은 여기에 회사의 정보보호 정책과 반출 기준까지 고려해야 합니다.

생성형 AI 개인정보 보호를 위한 핵심 원칙

생성형 AI를 안전하게 사용하는 방법은 복잡한 기술 지식보다 기본적인 이용 습관과 관련이 깊습니다.

첫째, 입력하지 않아도 되는 개인정보는 입력하지 않는 것이 가장 안전합니다.

둘째, AI 학습 활용과 대화 기록 설정을 기본값 그대로 두지 말고 직접 확인하는 것이 좋습니다.

셋째, 본인의 정보뿐 아니라 가족, 동료, 고객 등 제3자의 개인정보도 함께 점검해야 합니다.

넷째, 업무 자료는 개인 판단으로 외부 AI 서비스에 입력하지 말고 조직의 지침과 승인 절차를 따라야 합니다.

다섯째, 외부 서비스 연동은 필요한 권한만 허용하고 사용하지 않는 연결은 해제하는 것이 좋습니다.

생성형 AI의 기능이 다양해질수록 이용자가 입력하거나 연결하는 정보의 범위도 넓어질 수 있습니다. 따라서 새로운 기능을 사용할 때마다 편리한지 여부만 볼 것이 아니라 어떤 데이터에 접근하는지도 함께 확인하는 습관이 필요합니다.

마무리

생성형 AI 사용할 때 개인정보 유출을 막는 방법은 특별한 보안 프로그램 하나로 해결되는 문제가 아닙니다. 입력 전 개인정보 확인, 학습 활용 설정 점검, 대화 기록 관리, 업무 자료 입력 기준 준수, 외부 연동 권한 최소화가 함께 이뤄져야 합니다.

특히 한 번의 대화에서는 문제가 없어 보이는 정보도 여러 차례 누적되면 개인을 식별하는 단서가 될 수 있다는 점을 기억할 필요가 있습니다.

AI에 질문하기 전에는 개인정보를 제거하고, 문서를 업로드하기 전에는 본문과 파일명을 확인하며, 업무 자료는 조직의 승인 기준을 따르는 것이 좋습니다. 개인정보가 포함된 AI 답변을 발견했다면 공유를 중단하고 필요한 증빙을 확보한 뒤 대화와 파일을 삭제하고, 불필요한 연동을 해제한 후 사업자의 신고·문의 채널을 이용하시면 됩니다.

생성형 AI의 편리함을 안전하게 활용하려면 무엇을 입력했는지, 어디에 저장되는지, 무엇과 연결되어 있는지를 이용자가 직접 확인하는 습관이 가장 중요합니다.

FAQ

생성형 AI에 이름만 입력해도 개인정보 유출이 발생하나요?

이름 하나만으로 곧바로 개인정보 유출이 발생한다고 단정하기는 어렵습니다. 다만 회사명, 직책, 지역, 연락처, 일정 등 다른 정보와 함께 입력하면 특정인을 식별할 가능성이 높아질 수 있으므로 전체 대화 내용을 기준으로 판단하는 것이 좋습니다.

AI 학습 활용을 끄면 개인정보를 자유롭게 입력해도 되나요?

그렇지 않습니다. 학습 활용 제한 설정과 개인정보 입력 여부는 별도로 생각해야 합니다. 주민등록번호, 비밀번호, 인증코드 등 중요한 정보는 학습 활용 설정과 관계없이 입력하지 않는 것이 좋습니다.

회사 문서를 생성형 AI로 요약해도 되나요?

회사 문서라는 이유만으로 항상 가능하거나 항상 금지된다고 단정할 수는 없습니다. 소속 조직의 AI 이용 지침, 승인된 서비스 여부, 문서의 외부 반출 가능 여부를 먼저 확인해야 합니다.

고객 문의 내용을 AI에 그대로 붙여넣어도 되나요?

고객의 이름, 전화번호, 이메일, 주소 등 개인정보가 포함되어 있다면 그대로 입력하지 않는 것이 좋습니다. AI가 답변을 작성하는 데 필요하지 않은 정보는 삭제하거나 고객 A와 같은 임의의 표현으로 바꾼 뒤 사용하는 것이 안전합니다.

생성형 AI 대화를 삭제하면 모든 데이터가 즉시 없어지나요?

서비스마다 데이터 보관 정책이 다를 수 있으므로 일괄적으로 단정하기 어렵습니다. 대화 삭제 기능뿐 아니라 해당 서비스의 데이터 보관 정책과 개인정보 처리방침을 함께 확인하시는 것이 좋습니다.

AI 답변에서 다른 사람의 개인정보를 발견하면 어떻게 해야 하나요?

먼저 답변을 다른 사람에게 전송하거나 온라인에 게시하지 않아야 합니다. 이후 필요한 증빙을 확보하고 대화와 관련 파일을 삭제하며, 불필요한 외부 연동을 해제한 뒤 서비스 사업자의 신고 또는 문의 채널을 통해 조치를 요청하시는 것이 좋습니다.

생성형 AI와 이메일이나 클라우드를 연결해도 안전한가요?

연동 자체만으로 안전 여부를 단정하기는 어렵습니다. 어떤 데이터에 접근하는지, 읽기와 수정 중 어떤 권한을 요구하는지, 사용 후 연결을 해제할 수 있는지를 확인해야 합니다. 필요한 범위보다 과도한 권한을 요구한다면 연동 필요성을 다시 검토하는 것이 좋습니다.

개발자가 AI에 오류 로그를 입력할 때 무엇을 확인해야 하나요?

로그에 실제 사용자 정보, 이메일 주소, 내부 IP, 서버 주소, API 키, 접근 토큰, 데이터베이스 접속 정보가 포함되어 있지 않은지 확인해야 합니다. 오류 해결에 필요한 부분만 남기고 실제 데이터는 임의의 예시 데이터로 바꾸는 것이 좋습니다.