설명용 일러스트: 정보를 AI에 넣기 전에 따로 둔 폴더와 노트북
글의 내용을 표현한 설명용 일러스트

센터에는 고객 전화번호 같은 민감한 개인정보가 있습니다. 이런 건 외부 AI에 넣으면 안 되죠. 그래도 AI와 함께 자료를 다루고 싶었어요.

그래서 AI를 제 노트북 안에서 돌리기로 했습니다. 인터넷 너머의 서비스가 아니라 내 컴퓨터에서 실행하는 AI라서 로컬 AI라고 부르는데요.

느렸습니다. 많이요.

제 노트북 사양이 좋은 편이 아니거든요. 그래서 지금은 자료에서 고객 정보를 가려내는 용도로 쓰고 있어요.

설명용 도식: 질문, 자료에서 찾기, 근거로 답하기, 근거 문서 표시
설명용 도식: 나가도 되는 것, 나가면 안 되는 것, 잘 모르겠는 것 세 칸

그래도 계속하는 이유

저는 이걸 나중에 우리 센터의 두뇌로 만들 생각이거든요.

지금도 실제로 쓰고 있습니다. 고성능 AI에 비할 수준은 아직 아니에요. 그래도 제가 원하는 답변은 나오더라고요.

내 컴퓨터에서 돌려도 따로 지키는 것

실행 장소만 바꾼다고 자료가 저절로 보호되지는 않아요. 그래서 자료 폴더는 클라우드 동기화 폴더에 두지 않고, 이 컴퓨터에서만 접속되게 하고, 로그인을 꼭 하게 해뒀습니다.

해볼 것

AI에 넣기 전에 가진 자료를 세 칸으로 나눠 보세요.

  • 이미 공개한 소개글처럼 밖으로 나가도 되는 자료
  • 이름·연락처·몸 상태처럼 다른 사람에게 보여주면 안 되는 자료
  • 공개해도 되는지 아직 판단하지 못한 자료

판단하지 못한 자료는 일단 넣지 않고 두는 편이 좋습니다.