참고
AI applications scanning 가 현재 있으며 공개 미리 보기 변경될 수 있습니다.
AI applications scanning란?
AI applications scanning 는 AI 애플리케이션 및 에이전트와 관련된 보안 위험을 찾는 탐지기입니다. 다음을 감지합니다.
- 간접 프롬프트 삽입: 문서, 웹사이트 또는 API 응답과 같은 외부 콘텐츠에 포함된 악의적인 명령이 모델의 동작에 영향을 줄 수 있는 경우를 말합니다.
- 민감한 정보 공개: AI 애플리케이션이 자격 증명, 개인 데이터 또는 기밀 비즈니스 데이터와 같은 민감한 정보를 노출할 수 있는 경우
- 과도한 자율성: AI 애플리케이션 또는 에이전트에 의도하지 않거나 유해한 작업을 수행할 수 있는 과도한 기능, 권한 또는 자율성이 있는 경우
이 탐지기는 GitHub 기반 코드 스캔 및 AI Scan for pull requests, 즉 끌어오기 요청에 대한 CodeQL의 다른 AI 기반 코드 스캔 탐지기와는 별개입니다. 끌어오기 요청에 대한 AI 스캔은 기존의 코드 보안 취약성에 중점을 두고, AI applications scanning는 프롬프트 주입 및 과도한 에이전시와 같은 AI 애플리케이션 및 에이전트와 관련된 취약성에 중점을 둡니다. 조직에서 AI 애플리케이션 또는 에이전트를 빌드하는 경우 둘 다 평가합니다. 끌어오기 요청에 대한 AI 검사에 대한 자세한 내용은 끌어오기 요청에 대한 AI 검사을 참조하세요.
작동 방식
AI applications scanning는 CodeQL 대신 LLM 기반 감지 접근 방식을 사용합니다. 특정 언어에 대해 빌드된 정적 분석에 의존하지 않으므로 언어 또는 프레임워크 제한이 없습니다.
탐지기는 간접 프롬프트 주입, 민감한 정보 공개 또는 과도한 자율성에 AI 애플리케이션을 노출할 수 있는 코드 패턴 및 데이터 흐름을 찾기 위해 풀 리퀘스트를 분석합니다.
검사는 풀 요청이 생성되고 각 새 커밋 후에 실행됩니다.
끌어오기 요청에 대한 결과 표시 방법
AI applications scanning 결과는 다른 코드 스캐닝 결과와 동일한 방식으로 풀 리퀘스트 댓글에 표시됩니다. 각 탐지 결과에는 다음이 포함됩니다:
- 풀 리퀘스트에 대한 AI Scan 결과와 동일한 "AI" 레이블 및 엄지손가락 올림/내림 피드백 제어
- 닫기 버튼
AI 스캔과 마찬가지로 이러한 결과는 권고입니다. 풀 리퀘스트가 병합되는 것을 차단하지 않습니다.
Copilot Autofix 제안은 이 탐지기의 탐지 결과에 대해 자동으로 생성됩니다. 이 동작은 Copilot Autofix를 CodeQL 결과에 대해 제어하는 코드 스캐닝 자동 수정 설정과는 독립적입니다.
탐지 범위
공개 미리 보기 동안 AI applications scanning는 AI 에이전트에서 XPIA(간접 프롬프트 주입) 취약성만 감지합니다.
이 탐지기는 풀 리퀘스트만 다룹니다. 전체 리포지토리 또는 기존 백로그에서 AI 애플리케이션 위험을 탐지하지는 않습니다.
끌어오기 요청에 대한 AI 검사와 마찬가지로 이 탐지기는 포크의 끌어오기 요청 또는 Dependabot가 생성한 끌어오기 요청에서 실행되지 않으며, 규칙 집합에서 해당 결과를 사용하여 병합 요구 사항을 적용할 수 없습니다.
활성화하는 방법 AI applications scanning
AI applications scanning 는 엔터프라이즈, 조직 및 리포지토리 수준에서 기본적으로 해제되어 있습니다.
- 엔터프라이즈: 활성화는 공유 AI Scan 엔터프라이즈 정책에 의해 제어됩니다. 엔터프라이즈 소유자는 조직이 AI applications scanning를 비롯한 AI 기반 코드 검사 기능을 활성화하도록 허용할 수 있습니다. 엔터프라이즈에 대한 코드 보안 및 분석을 위한 정책 적용을(를) 참조하세요.
- 조직: 조직 소유자는 허용된 적격 리포지토리에서 AI 애플리케이션 검사를 활성화할 수 있습니다. 조직에 대한 글로벌 보안 설정 구성을(를) 참조하세요.
- 리포지토리: 리포지토리 관리자는 조직에서 허용한 경우 개별 리포지토리에 대해 옵트아웃할 수 있습니다.
조직에서 끌어오기 요청에 대한 AI 검사를 이미 사용하도록 설정했거나 프라이빗 미리 보기 AI applications scanning에서 이동하는 경우 조직 수준에서 AI 애플리케이션 검사를 별도로 사용하도록 설정해야 합니다. 끌어오기 요청에 대해 AI Scan을 사용하도록 설정해도 AI applications scanning도 활성화되지 않으며, 반대의 경우도 마찬가지입니다. 두 기능 모두 동일한 엔터프라이즈 수준 정책을 공유하지만 조직은 각각 개별적으로 사용하도록 설정해야 합니다.
Billing
AI applications scanning 사용하려면 GitHub Advanced Security 라이선스가 필요하며 해당 라이선스 외에 AI credits도 추가로 소모합니다. 적격 공용 리포지토리도 이 청구 요구 사항에 포함됩니다. 자세한 내용은 GitHub Advanced Security 라이선스 결제을(를) 참조하세요.