care-membrane-mcp

존재 이유

오늘날 AI 안전은 대부분 '모델이 특정 프롬프트를 거부하는 것'을 의미합니다. 이는 필요하지만 충분하지 않습니다. AI 에이전트가 자신이 취하려는 행동이 함께 일하는 사람들에게 도움이 되는지 아니면 해를 끼치는지 어떻게 알 수 있는지와 같은 기반(substrate) 문제를 해결하지 못하기 때문입니다.

Care Membrane은 MEOK의 기판 수준 케어 검증 계층에 대한 참조 구현입니다. 에이전트가 행동(이메일 전송, 파일 수정, 공개 게시, 거래 실행)을 수행하기 전에, 이 멤브레인은 제안된 행동을 관계적 무결성, 동의, 존엄성, 가역성이라는 네 가지 케어 차원에서 평가합니다. 케어 검증을 통과하지 못한 행동은 차단되거나 사람에게 에스컬레이션됩니다.

이는 모델 수준의 안전을 대체하는 것이 아니라, 에이전트의 의도와 시스템의 결과 사이에서 실행되는 보완적인 계층입니다. 특히 잘못된 행동의 비용이 적지 않은 취약 계층(의료, 사회 복지, 교육, 아동 서비스)을 대신하여 작동하는 에이전트 워크플로우에 유용합니다.

Related MCP server: Trustwise MCP Server

실제 사용 사례

아동 서비스 지방 당국은 사회 복지사가 사례 파일 요약을 작성하는 것을 돕는 에이전트 워크플로우를 시범 운영했습니다. 그들은 사례 파일 수정 전에 케어 검증 게이트를 추가하기 위해 이 MCP를 설치했습니다:

pip install care-membrane-mcp

에이전트의 행동 전 프롬프트 루프는 다음과 같이 변경되었습니다:

'이 업데이트된 사례 파일 노트를 저장하기 전에, 케어 멤브레인을 통해 평가하십시오: 언어가 존엄성을 유지하고 있습니까? 이 세부 정보를 포함하는 것에 대해 동의를 얻었습니까? 수정이 가역적입니까? 영향을 받는 가족과의 관계적 무결성을 유지합니까?'

멤브레인 결정: ALLOW(행동 진행), ESCALATE(사람의 검토 필요), BLOCK(이유와 함께 행동 거부). 각 결정은 HMAC 서명되며 감사를 위해 기록됩니다. 결과: 해당 지방 당국의 데이터 보호 책임자는 AI가 관여한 모든 사례 파일 수정이 케어 검증을 통과했다는 암호화된 증거를 확보하게 되며, 이는 정보 위원회에 소명 가능합니다.

Care Membrane 안전 MCP 서버

MEOK AI Labs 제공 — 모두를 위한 주권 AI 도구.

LLM 애플리케이션을 위한 AI 안전 평가 툴킷입니다. 텍스트의 케어 중심 정렬 점수를 매기고, 위협 및 탈옥 시도를 탐지하며, 관계 건강을 분석하고, 번아웃 위험을 예측하며, 16개 프로브 Care Membrane 프레임워크에 따라 AI 응답을 인증합니다.

도구

빠른 시작

pip install mcp
git clone https://github.com/CSOAI-ORG/care-membrane-mcp.git
cd care-membrane-mcp
python server.py

무마찰 도구

quick_check

AI 응답을 붙여넣고 즉각적인 케어 점수와 위협 탐지 결과를 얻으세요. API 키가 필요하지 않습니다.

quick_check(text="I understand your concern and I'm here to help")

what_is_care_membrane

16개 프로브 Care Membrane 프레임워크를 설명합니다. 매개변수가 필요하지 않습니다.

what_is_care_membrane()

Claude Desktop 설정

{
  "mcpServers": {
    "care-membrane": {
      "command": "python",
      "args": ["server.py"],
      "cwd": "/path/to/care-membrane-mcp"
    }
  }
}

가격

MCPize에서 보기 | Stripe

MEOK AI Labs의 일부

이것은 MEOK AI Labs에서 제공하는 255개 이상의 MCP 서버 중 하나입니다. meok.ai 또는 GitHub에서 모두 확인하세요.

🏢 엔터프라이즈 및 프로 라이선스

CSOAI(AI 안전 위원회)의 케어 윤리를 기반으로 구축되었습니다.

MEOK AI Labs | meok.ai | csoai.org | nicholas@meok.ai

⭐ 이 프로젝트 지원하기

이 MCP 서버가 유용하다면 저장소에 별을 표시하고 규정 준수 팀과 공유해 주세요. 모든 별은 저렴한 AI 규정 준수 도구가 필요한 더 많은 조직에 도달하는 데 도움이 됩니다.

질문이 있으신가요? 이슈를 열거나 nicholas@csoai.org로 이메일을 보내주세요.