OpenAI가 기업용 AI 보안 역량 강화를 위해 AI 보안 스타트업 프롬프트푸(Promptfoo) 인수를 추진한다.

오픈AI는 9일 프롬프트푸를 인수해 해당 기술을 자사의 AI 코워커 플랫폼 ‘OpenAI Frontier’에 통합할 계획이라고 밝혔다. 인수는 일반적인 계약 마감 조건을 충족한 이후 최종 완료될 예정이다.

회사 측은 기업들이 AI 에이전트를 실제 업무 환경에 도입하면서 AI 시스템의 평가, 보안, 규제 대응이 핵심 요구 사항으로 떠오르고 있다고 설명했다.

이에 따라 오픈AI는 프롬프트푸의 기술을 활용해 기업이 AI 에이전트의 행동을 체계적으로 테스트하고, 배포 전에 잠재적인 위험 요소를 발견하며 장기적으로 AI 시스템 운영 기록을 관리할 수 있도록 지원할 계획이다.

프롬프트푸는 기업이 인공지능 시스템을 개발하는 과정에서 취약점을 탐지하고 보안을 검증할 수 있도록 지원하는 AI 보안 플랫폼을 제공한다. 이 플랫폼은 대형언어모델(LLM) 기반 애플리케이션을 대상으로 다음과 같은 보안 검증 기능을 제공한다.

구체적으로 보안 검증 기능으로는 ▲프롬프트 인젝션 공격 탐지 ▲탈옥(jailbreak) 시도 분석 ▲데이터 유출 위험 점검 ▲도구 오남용 탐지 ▲정책 위반 행동 분석 등이다. 이러한 다양한 보안 테스트 기능을 통해 AI 시스템의 위험 요소를 사전에 확인할 수 있도록 지원한다.

오픈AI는 프롬프트푸의 보안 테스트와 레드팀 기능을 프론티어 플랫폼의 기본 기능으로 통합할 계획이다. 이를 통해 기업이 AI 에이전트를 개발하고 운영하는 과정에서 보안 검증을 자동화하고 위험을 조기에 발견할 수 있도록 지원한다는 전략이다.

프롬프트푸는 공동 창업자인 이안 웹스터(Ian Webster) CEO와 마이클 댄젤로(Michael D’Angelo) CTO가 설립한 AI 보안 기업으로, 현재 포춘500 기업의 25% 이상이 해당 플랫폼을 사용하고 있는 것으로 알려졌다. 또한 대규모 언어모델 애플리케이션을 평가하고 보안 테스트를 수행할 수 있는 오픈소스 CLI 도구와 라이브러리도 제공하며 개발자 커뮤니티에서 널리 활용되고 있다.

이번 인수는 AI 산업 경쟁이 단순한 모델 성능 경쟁을 넘어 기업용 AI 운영 플랫폼과 보안·거버넌스 경쟁으로 확대되고 있음을 보여주는 사례로 평가된다.

오픈AI는 프론티어 플랫폼을 통해 기업이 AI 코워커(AI coworker)를 구축하고 운영할 수 있는 환경을 제공하고 있으며, 이번 인수를 통해 AI 에이전트 보안 테스트와 위험 관리, 운영 기록 추적 등 AI 거버넌스 기능을 강화할 계획이다.

AI 에이전트가 기업 업무에 본격적으로 도입되는 가운데 AI 시스템의 보안성과 책임성 확보가 기업 도입의 핵심 요소로 부상하면서 관련 기술 시장도 빠르게 성장할 것으로 전망된다.