SAP AI Assistant --- MCP Gateway

버전: 1.0.0
상태: 초기 MVP / 안정
플랫폼: SAP Business Technology Platform (BTP)
런타임: Cloud Foundry / Node.js

1. 개요

SAP AI Assistant는 자연어를 사용하여 SAP BTP 대상(destination) 및 연결된 OData 서비스와 상호 작용하기 위한 AI 기반 인터페이스입니다. 이 도구는 SAP BTP Destination Service, Model Context Protocol(MCP), OData V2/V4, LangChain, Groq, Node.js, Cloud Foundry, 그리고 브라우저 기반 채팅 UI를 결합합니다.

사용자는 구성된 대상을 선택하고 Show me the first 5 products와 같은 질문을 합니다. AI 에이전트는 MCP 도구를 사용하여 선택한 OData 서비스를 검색하고 쿼리한 후 자연어 답변을 반환합니다.

2. 아키텍처

                    SAP BTP
                       |
              +--------v--------+
              | Destination     |
              | Service         |
              +--------+--------+
                       |
              +--------v--------+
              | SAP AI Assistant|
              | MCP Gateway     |
              |                 |
              | Destination Mgmt|
              | OData Discovery |
              | OData Query     |
              | MCP Server      |
              | AI Agent        |
              +--------+--------+
                       |
              +--------v--------+
              |    Groq LLM     |
              | llama-3.3-70b   |
              +--------+--------+
                       |
                       v
                  Browser UI

3. 핵심 기능

• SAP BTP Destination Service 통합

• 동적 대상 선택

• 대상 동기화

• 대상 조회

• MCP 서버 및 MCP 클라이언트

• OData 메타데이터 검색

• OData V2 및 V4 지원

• 자연어 OData 쿼리

• LangChain 도구 호출 에이전트

• Groq LLM 통합

• 사용자 친화적인 채팅 응답

• Cloud Foundry 배포

• 헬스 엔드포인트

• 정보 및 버전 대화상자

4. MCP 도구

도구 목적

list_destinations 동기화된 대상 목록을 표시합니다

get_destination 대상 세부 정보를 검색합니다

sync_destinations SAP BTP에서 대상을 동기화합니다

discover_odata OData 메타데이터 및 엔터티 세트를 검색합니다

query_odata 선택된 대상에 대해 OData 쿼리를 실행합니다

5. 대상 흐름

대상 이름은 AI 에이전트에 하드코딩되어 있지 않습니다. 클라이언트는 선택한 대상을 질문과 함께 보냅니다:

{
  "message": "Show me the first 5 products",
  "destination": "NORTHWIND_V4"
}

백엔드는 두 값을 모두 에이전트에 전달합니다:

UI -> /ai/chat -> askAgent({ question, destination }) -> MCP -> selected destination -> OData service

이를 통해 S4_PROD, S4_TEST, ARIBA, SUCCESSFACTORS 또는 고객별 대상과 같은 대상들을 에이전트 코드를 변경하지 않고 사용할 수 있습니다.

6. HTTP 엔드포인트

헬스

GET /health

예제 응답:

{ "status": "UP" }

대상 목록

GET /destinations

대상 관리

GET /destinationsom/destinations

대상 가져오기

GET /destination/:name

OData 검색

GET /odata/:destination/discover

AI 채팅

POST /ai/chat
Content-Type: application/json

예제 요청:

{
  "message": "Show me the first 5 products",
  "destination": "NORTHWIND_V4"
}

예제 응답:

{
  "success": true,
  "question": "Show me the first 5 products",
  "destination": "NORTHWIND_V4",
  "answer": "The first 5 products are..."
}

UI는 일반 사용자에게 원시 MCP/OData JSON을 노출하는 대신 answer를 표시합니다.

7. AI 에이전트 흐름

1. 사용자 질문과 선택한 대상을 받습니다.

2. MCP 서버에 연결합니다.

3. 사용 가능한 MCP 도구를 검색합니다.

4. 도구를 LLM에 바인딩합니다.

5. LLM이 필요한 도구를 선택하도록 허용합니다.

6. MCP 도구를 실행합니다.

7. 도구 결과를 LLM에 반환합니다.

8. 자연어 답변을 생성합니다.

Question
   |
   v
  LLM
   |
   +--> discover_odata
   |
   +--> query_odata
   |
   v
Tool Result
   |
   v
  LLM
   |
   v
Final Answer

8. 환경 변수

GROQ_API_KEY

AI 에이전트에 필요합니다. 소스 제어에 커밋하지 말고 Cloud Foundry에서 구성하십시오:

cf set-env sap-mcp-gateway GROQ_API_KEY "<your-groq-api-key>"
cf restage sap-mcp-gateway

MCP_SERVER_URL

MCP 엔드포인트를 정의합니다. 로컬 기본값:

http://localhost:8080/mcp

Cloud Foundry의 경우 배포된 MCP 엔드포인트를 적절히 구성합니다.

9. 배포

cf login -sso
cf target -o <organization> -s <space>
cf push sap-mcp-gateway
cf app sap-mcp-gateway
cf logs sap-mcp-gateway --recent

Groq 키를 구성하고 restage하십시오:

cf set-env sap-mcp-gateway GROQ_API_KEY "<your-key>"
cf restage sap-mcp-gateway

10. 예제 개발 대상

NORTHWIND_V2

Name:           NORTHWIND_V2
Type:           HTTP
URL:            https://services.odata.org/v2/northwind/northwind.svc/
Proxy Type:     Internet
Authentication: NoAuthentication

NORTHWIND_V4

Name:           NORTHWIND_V4
Type:           HTTP
URL:            https://services.odata.org/v4/northwind/northwind.svc/
Proxy Type:     Internet
Authentication: NoAuthentication

이는 데모용 대상입니다. 프로덕션 시스템에서는 적절한 SAP/고객 대상과 인증을 사용해야 합니다.

11. 보안

버전 1은 MCP 및 대상 통합 기반에 중점을 둡니다. 엔터프라이즈 프로덕션 사용 전에 다음을 검토하거나 구현하십시오:

• XSUAA 인증

• 역할 기반 액세스 제어

• 대상 수준 권한 부여

• 필요 시 사용자 ID 전파

• 안전한 비밀 처리

• 감사 로깅

• 속도 제한

• 입력 검증

• OData 쿼리 제한

• 결과 제한

• 민감한 데이터 보호

• 프로덕션 모니터링

API 키를 Git에 커밋하지 마십시오.

12. 알려진 v1 제한 사항

AI 토큰 사용량

현재 에이전트는 여러 번의 LLM/도구 반복을 수행할 수 있으며 대화에서 메타데이터와 도구 결과를 누적할 수 있습니다. 따라서 큰 메타데이터 응답은 토큰 소비를 증가시킬 수 있습니다.

에이전트 라우팅

현재 구현에서는 LLM이 호출할 MCP 도구를 결정합니다. 향후 버전에서는 불필요한 호출을 줄이기 위해 일반적인 작업에 대한 결정적 라우팅을 추가할 수 있습니다.

인증

엔터프라이즈 인증 및 권한 부여는 후속 단계에서 계획되어 있습니다.

13. 버전 1.0 범위

v1.0에 포함된 항목:

• Cloud Foundry 배포

• 헬스 엔드포인트

• Destination Service 통합

• 대상 동기화

• 동적 대상 선택

• MCP 서버

• MCP 클라이언트

• MCP 도구 검색

• 대상 도구

• OData 검색

• OData V2 지원

• OData V4 지원

• OData 쿼리

• Groq 통합

• LangChain 에이전트

• AI 채팅 엔드포인트

• 자연어 UI

• 사용자 친화적인 응답 렌더링

• 정보 대화상자

• 버전 대화상자

• 초기 기술 문서

14. 로드맵

v1.1 --- AI 최적화

• 불필요한 LLM 반복 줄이기

• LLM에 전송되는 메타데이터 줄이기

• 쿼리 결과 제한

• 도구 결과 처리 최적화

• 오류 복구 및 지연 시간 개선

• 적절한 곳에 결정적 라우팅 추가

v1.2 --- 보안

• XSUAA

• 사용자 인증

• RBAC

• 대상 권한 부여

• ID 전파

• 감사 로깅

v1.3 --- 엔터프라이즈 OData

• $select

• $filter

• $orderby

• $expand

• $top

• $skip

• 페이지네이션

• 결과 요약

v2.0 --- SAP 엔터프라이즈 MCP 플랫폼

잠재적인 통합에는 S/4HANA, SuccessFactors, Ariba, SAP HANA Cloud, Integration Suite, SAP Build Process Automation 및 SAP AI 기능이 포함됩니다.

15. 아키텍처 원칙

대상 중립

고객별 대상 이름은 애플리케이션 로직에 포함되어서는 안 됩니다.

도구 기반

AI 에이전트는 MCP 도구를 통해 SAP 시스템과 상호 작용합니다.

코드보다 구성

환경별 대상과 자격 증명은 애플리케이션 소스 코드 외부에 유지됩니다.

사용자 친화적 출력

일반 사용자에게 원시 API 및 MCP JSON을 노출해서는 안 됩니다.

확장 가능

전체 애플리케이션을 재설계하지 않고도 새 MCP 도구를 추가할 수 있어야 합니다.

16. 릴리즈 정보

프로젝트: SAP AI Assistant / MCP Gateway
버전: 1.0.0
상태: 초기 MVP / 안정
플랫폼: SAP BTP
런타임: Node.js / Cloud Foundry