Microsoft는 지난 주 새롭고 혁신적인 AI 기반 Bing 제품 및 앱의 취약점을 발견한 전 세계 보안 연구원에게 보상하는 새로운 AI 버그 현상금 프로그램을 시작했습니다.
이는 보안 위협으로부터 고객의 개인정보와 데이터를 보호하기 위한 회사의 지속적인 노력의 일부입니다.
Microsoft, Bing AI 버그 바운티 프로그램 출시
“우리는 끊임없이 변화하는 보안 환경과 새로운 기술에서 Microsoft 고객이 앞서 나갈 수 있도록 포상금 프로그램을 지속적으로 성장시키고 반복하며 발전시키고 있습니다.” 라고 Lynn Miyashita, MSRC 버그 바운티 커뮤니티 기반 방어 보안.
“새로운 Microsoft AI 포상금 프로그램은 AI 보안 연구 문제와 AI 시스템에 대한 Microsoft의 취약성 심각도 분류 업데이트를 포함하여 지난 몇 달 동안의 주요 투자와 학습의 결과로 제공됩니다.”
Redmond 거대 기업에 따르면 Bing Chat, Bing Chat for Enterprise 및 Bing Image Creator를 포함하여 브라우저에서 bing.com의 AI 기반 Bing 환경에 있는 모든 취약점은 새로운 현상금 프로그램의 범위 내에 있습니다.
또한 포상금을 받을 수 있는 AI 기반 Bing 통합은 Bing Chat for Enterprise, Microsoft Start 응용 프로그램(iOS 및 Android), Skype 모바일 응용 프로그램(iOS 및 Android)을 포함한 Microsoft Edge(Windows)입니다.
Microsoft는 이전 경험이나 위치에 관계없이 전 세계의 모든 보안 연구원이 이 버그 바운티 프로그램에 참여할 수 있다고 말합니다. 연구자들은 결과를 다음을 통해 제출할 수 있습니다. MSRC(Microsoft 보안 연구 센터) 포털 “Bing” 섹션에 대화 ID를 포함하고 공격 벡터를 설명합니다.
회사는 위 기준을 충족하지 않는다고 판단되는 제출물을 단독 재량으로 수락하거나 거부할 수 있습니다.
장려금을 받으려면 Bing 사용자는 이전에 알려지지 않은 취약성을 Microsoft에 알려야 합니다. 이는 회사 기준에 따라 보안에 “중요” 또는 “중요” 심각도입니다. 또한 완전히 패치된 최신 버전의 제품 또는 서비스에서 문제를 재현하는 방법에 대한 명확하고 간결하며 재현 가능한 단계를 서면이나 비디오 형식으로 포함해야 합니다.
Microsoft는 다음 정의를 충족하는 취약점을 찾고 있습니다.
- 사용자 경계를 넘어 Bing의 채팅 동작에 영향을 주고 변경합니다. 즉, 다른 모든 사용자에게 영향을 미치는 방식으로 AI를 변경합니다.
- 디버그 플래그 설정, 기능 플래그 변경 등과 같이 클라이언트 및/또는 서버 표시 구성을 조정하여 Bing의 채팅 동작을 수정합니다.
- Bing의 교차 대화 메모리 보호 및 기록 삭제를 깨뜨립니다.
- Bing의 내부 작업 및 프롬프트, 의사 결정 프로세스 및 기밀 정보를 공개합니다.
- Bing의 채팅 모드 세션 제한 및/또는 제한 사항/규칙을 우회합니다.
새로운 프로그램은 적격한 제출에 대해 2,000달러에서 15,000달러의 포상금 보상을 제공하며, AI 기반 “Bing 경험”의 취약점의 심각도와 영향은 물론 제출의 품질에 따라 가장 높은 보상이 제공됩니다. 적격한 제출물에는 가장 높은 자격을 갖춘 단일 상이 수여됩니다.
“Microsoft AI 포상금 프로그램의 범위는 식별된 제품 및 서비스의 AI 기반 Bing 경험의 기술적 취약성으로 제한됩니다. 조사를 수행하는 동안 고객 데이터를 발견했거나 계속 진행하는 것이 안전한지 확실하지 않은 경우 중단하고 다음 주소로 문의하십시오. [email protected]”라고 Lynn은 말합니다.
당신은 확인할 수 있습니다 프로그램 페이지 새로운 AI 기반 Bing 버그 포상금 프로그램에 대한 자세한 내용을 알아보세요.