MCP - Titan Memory Server

타이탄 메모리 서버

향상된 Titan 메모리 모델을 사용한 MCP(Model Context Protocol) 서버 구현.

개요

이 프로젝트는 생성 AI 시스템의 메모리 성능을 향상시키도록 설계된 대규모 언어 모델(LLM)용 메모리 모델을 구현합니다. TensorFlow.js를 사용하여 구축되었으며 MCP 서버로 구현되어 모든 MCP 호환 클라이언트와 쉽게 통합할 수 있습니다.

특징

현재 구현됨:

• 멀티헤드 어텐션 메커니즘
• 계층적 메모리 구조
• 메모리 상태 지속성
• 모델 컨텍스트 프로토콜(MCP)과의 통합
• 학습 향상을 위한 메모리 재생
• LLM 캐시 통합
• 동적 메모리 할당
• 장기 기억 저장
• 고급 메모리 압축
• 지속적인 작업별 메모리
• 모멘텀 기반 메모리 업데이트
• 구성 가능한 메모리 통합 변형(MAC/MAG)

용법

서버는 MCP(Model Context Protocol)를 통해 여러 도구를 제공합니다.

• init_model : 사용자 정의 구성으로 메모리 모델을 초기화합니다.
• forward : 모델을 통해 전방 패스를 수행합니다.
• train_step : 단일 학습 단계 수행
• train_sequence : 벡터 시퀀스로 학습합니다.
• save_model : 현재 모델 가중치를 저장합니다.
• load_model : 저장된 파일에서 모델 가중치를 로드합니다.
• get_status : 모델의 현재 상태를 가져옵니다.
• store_memory_state : 키로 현재 메모리 상태를 저장합니다.
• retrieve_memory_state : 저장된 메모리 상태를 검색합니다.
• compress_memory : 현재 메모리 상태를 압축하여 공간을 절약합니다.
• memory_replay : 학습을 강화하기 위해 메모리 재생 훈련을 수행합니다.

설치

지엑스피1

서버 실행

이렇게 하면 MCP 서버가 포트 3000에서 시작됩니다.

개발

테스트

고급 기능

메모리 리플레이

메모리 재생 메커니즘은 과거의 입출력 쌍을 저장하고 이를 주기적으로 재학습하여 학습을 강화합니다. 이를 통해 심각한 망각을 방지하고 전반적인 모델 성능을 향상시킵니다.

동적 메모리 할당

이 모델은 입력의 복잡성과 예측 오류의 심각도에 따라 메모리 할당을 동적으로 조정할 수 있습니다. 이를 통해 복잡한 패턴에는 더 많은 리소스를 할당하고 간단한 패턴은 압축할 수 있습니다.

장기 기억 저장

시스템은 세션 간에 유지되는 영구적인 장기 메모리를 유지합니다. 이 메모리는 디스크에 저장되어 서버 시작 시 로드되므로 학습의 연속성을 보장합니다.

메모리 압축

고급 압축 기술은 중요한 정보를 보존하면서 메모리 사용량을 줄입니다. 이는 특히 리소스가 제한된 환경에 배포할 때 유용합니다.

LLM 캐시 통합

이 시스템은 자주 액세스되는 메모리 상태의 캐시를 유지하여 반복되는 쿼리의 성능을 향상시키고 계산 오버헤드를 줄입니다.

소환

귀하의 연구에 이 구현을 사용하는 경우 다음을 인용해 주세요.

특허

MIT