AI의 기억은 어디에 있을까? 대화 내용·저장 정보·문서 검색 나누어 보기

AI가 전에 말한 내용을 다시 언급하면 ‘기억하고 있구나’라고 느낄 수 있습니다. 서비스를 이해할 때는 정보가 어디에서 왔는지 나누어 보는 것이 도움이 됩니다. 현재 대화, 별도로 저장한 정보, 검색으로 찾은 문서라는 세 경로를 살펴봅니다. 실제 제공 여부와 보관 방식은 서비스마다 다릅니다.

1. 지금 대화에 들어 있는 정보
방금 ‘표로 정리해 주세요’라고 말한 뒤 다음 질문에도 표가 나오면 현재 대화의 지시가 이어진 것일 수 있습니다. 어떤 입력을 함께 제공했는지 살펴보세요. 긴 대화가 처리되는 방식은 제품마다 다르므로 중요한 조건은 작업을 시작할 때 다시 명시하는 습관이 유용합니다.

2. 별도로 저장한 정보
일부 서비스는 선호나 사용자가 저장한 정보를 다음 대화에서 활용하는 기능을 제공합니다. 저장 기능이 있는지, 무엇이 저장됐는지, 사용자가 확인하고 지울 수 있는지를 해당 서비스 설정과 안내에서 확인합니다. 한 번 사용한 문장이 항상 다음 대화에 보존된다고 가정하지 않는 편이 작업 범위를 명확히 합니다.

3. 문서를 찾아서 답에 넣는 정보
문서 검색을 연결한 시스템은 질문과 관련된 자료를 찾아 답변의 참고 내용으로 넣을 수 있습니다. Anthropic의 Contextual Retrieval 설명은 문서를 작은 조각으로 나누어 검색할 때 각 조각에 문맥 설명을 더하는 방법을 다룹니다. 검색으로 얻은 내용을 사용하는 것과 모델 자체를 다시 학습시키는 것은 구분해서 볼 수 있습니다.
https://www.anthropic.com/engineering/contextual-retrieval

4. 같은 질문으로 세 경로 구분해 보기
가상의 프로젝트에서 ‘공지 담당은 기획팀’이라는 문장을 준비해 보세요. 현재 대화에 붙여 넣었다면 출처는 제공한 문장입니다. 문서 검색에서 가져왔다면 문서 제목과 위치를 요청합니다. 저장 기능에서 가져왔다면 서비스의 저장 정보 확인 화면을 살펴봅니다. 실제 개인 정보 대신 연습용 문장으로 시작할 수 있습니다.

AI에게는 이렇게 물어볼 수 있습니다. “이 답변에서 사용한 정보 중 현재 대화에 있는 내용과 검색한 문서를 구분하고, 확인할 수 있는 출처를 알려 주세요.” AI의 설명만으로 내부 저장 상태를 확정하지 말고 사용자에게 공개된 설정과 문서도 함께 확인하세요.

읽고 나서 남길 질문
‘기억하니?’에 이어 ‘어떤 자료를 참고했니?’를 물어보세요. 정보의 위치를 알면 내용을 고치거나 최신 문서로 바꾸는 다음 행동도 정하기 쉬워집니다. 세 경로는 이해를 돕는 분류이며 인간의 기억이나 의식과 같다는 의미는 아닙니다.

https://codinghero.tistory.com/507