AI 시스템 개발 과정 나타나는 취약점 식별, 컴플라이언스 제공 오픈AI 기업용 AI 에이전트 플랫폼에 통합
[보안뉴스 한세희 기자] 오픈AI가 AI 보안 플랫폼 기업 프롬프트푸를 인수한다고 9일(현지시간) 밝혔다.
프롬프트푸(Promptfoo)는 AI 시스템 개발 과정에서 나타나는 보안 취약점을 식별하고 수정할 수 있게 하는 AI 보안 플랫폼을 제공한다. 오픈AI는 자사 기업용 업무 보조 AI 에이전트 플랫폼 ‘오픈AI 프론티어’에 프롬프투푸의 기술을 적용할 계획이다.
기업들이 AI 에이전트 도입을 확대함에 따라 AI 에이전트에 대한 보안과 평가, 컴플라이언스 등이 중요해진 데 따른 것이다. 프롬프트푸의 기술을 이용, 기업이 업무 환경 전반에 걸쳐 AI 에이전트의 행동을 테스트하고 실무 배포 전 리스크를 탐지할 수 있게 한다. 또 투명하게 기록을 남겨 AI 활용에 대한 관리 감독과 책임성을 강화한다.
프롬프트푸는 이안 웹스터와 마이클 단젤로가 창업했으며, 현재 이들의 기술은 포춘500대 기업 중 25%에서 쓰이고 있다고 오픈AI는 밝혔다. 주요 오픈소스 AI 프로젝트의 레드팀 활동 등에도 널리 쓰인다.
스리니바스 나라야난 오픈AI B2B 부문 CTO는 “프롬프트푸는 기업 AI 시스템을 평가 및 보호하고 테스트하기 위한 깊은 전문성을 갖고 있다”며 “기업이 AI 시스템을 안전하고 신뢰성 있게 활용하도록 도울 것”이라고 말했다.
등록번호 : 서울 아00181 | 등록/발행연월일 : 2006년 3월 17일 | 상호 : (주)더비엔 | 사업자등록번호 : 407-86-00506 | 대표 : 최정식, 최소영
주소 : 서울시 마포구 마포대로4다길 41(마포동), 마포타워 15층 (우. 04177) | 전화 : 02-719-6933 | 팩스 : 02-715-8245 | E-mail : helpdesk@boannews.com
「열린보도원칙」 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도, 추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다. 고충처리인 권준(kwonjun@boannews.com)
한세희기자 기사보기
.jpg)
.jpg)
.jpg)
.jpg)
