Salesforce의 Einstein Trust Layer: 안전한 생성형 AI 활용을 위한 보안

Salesforce는 오랫동안 고객 데이터의 안전성과 신뢰성을 최우선으로 고려해 왔습니다. 그 가운데, 생성형 AI 활용 시 데이터 보호와 신뢰성을 확보하기 위해 개발된 것이 바로 "Einstein Trust Layer"입니다. 이 블로그에서는 Einstein Trust Layer가 어떻게 작동하며, 고객 데이터를 보호하면서 AI를 활용할 수 있는 방법에 대해 자세히 설명합니다.

1. Trust Layer의 기본 개요

Einstein Trust Layer는 생성형 AI를 사용할 때 데이터와 프라이버시를 보호하기 위한 일련의 보안 기능을 제공합니다. 이 레이어는 Salesforce의 모든 애플리케이션에서 AI가 고객 데이터에 접근할 때 신뢰할 수 있는 보안을 제공합니다.

2. 프롬프트 여정

Trust Layer의 프로세스는 사용자의 프롬프트가 생성형 AI로 전달되는 과정에서 그 안전성을 확보합니다. 구체적으로 프롬프트는 다음 단계들을 거쳐 처리됩니다.

동적 그라운딩: 프롬프트는 조직 내 관련 데이터로 보강되어 컨텍스트에 적합한 응답이 생성됩니다.
데이터 마스킹: 프롬프트 내의 개인 정보는 AI로 전송되기 전에 마스킹되어 외부로 유출되지 않도록 보호됩니다.

3. 응답 여정

생성형 AI에서 응답이 반환되면, Trust Layer를 통해 다시 안전하게 처리됩니다. 이 프로세스는 다음과 같은 주요 단계를 포함합니다.

제로 데이터 보유: 외부 AI 제공자에 데이터가 저장되지 않도록 응답 데이터는 즉시 삭제됩니다.
유해 언어 감지: 응답이 고객에게 전송되기 전에 유해한 언어가 포함되어 있는지 감지하는 프로세스를 거칩니다.
데이터 디마스킹: 마스킹된 데이터는 적절한 시점에 복원되어 개인화된 응답이 제공됩니다.

4. 안전성과 신뢰성을 위한 가드레일

Trust Layer는 데이터가 적절히 보호되고 AI가 의도하지 않은 응답을 생성하지 않도록 추가적인 보안 가드레일을 제공합니다. 여기에는 프롬프트 주입 공격 방어와 생성된 응답의 적절성을 확인하기 위한 검증 프로세스가 포함됩니다.

[일러스트 이미지 삽입 위치]
일러스트: 가드레일 기능을 설명하는 그림

5. 요약 및 향후 전망

Salesforce의 Einstein Trust Layer는 생성형 AI 사용 시 안전성과 신뢰성을 최우선으로 고려한 혁신적인 솔루션입니다. 이 레이어를 통해 기업은 안심하고 AI를 활용하여 생산성을 높일 수 있습니다. 앞으로도 Salesforce는 더욱 신뢰할 수 있는 AI 솔루션을 지속적으로 제공할 것입니다.

이 블로그 글을 통해 Einstein Trust Layer의 중요성과 구체적인 기능에 대해 이해하셨기를 바랍니다. Salesforce는 앞으로도 여러분의 비즈니스를 지원하기 위해 신뢰할 수 있는 AI 도구를 지속적으로 제공할 것입니다.