خرید استارتاپ پرامپت فو توسط اوپن ای آی با هدف تقویت امنیت هوش مصنوعی و استفاده از ابزارهای ارزیابی ریسک در پلتفرم های سازمانی و ایجنت های مستقل صورت گرفته است.
اوپن ای آی (OpenAI) روز دوشنبه اعلام کرد که استارتاپ امنیت هوش مصنوعی «پرامپت فو» (Promptfoo) رو خریداری کرده؛ این استارتاپ در سال 1402 (2024) برای محافظت از مدل های زبانی بزرگ در برابر تهدیدات آنلاین تاسیس شده بود.
اهمیت امنیت هوش مصنوعی در عصر جدید
این آزمایشگاه پیشرو در یک پست وبلاگی گفت که با نهایی شدن این قرارداد، فناوری پرامپت فو که ابزاری برای ارتقای امنیت هوش مصنوعی است، با پلتفرم سازمانی OpenAI Frontier که مخصوص عوامل (ایجنت های) هوش مصنوعیه، ادغام می شه.
توسعه ایجنت های هوش مصنوعی مستقل که کارهای دیجیتال رو انجام می دن، هیجان زیادی بابت افزایش بهره وری ایجاد کرده. اما از طرفی، فرصت های جدیدی هم برای افراد سوءاستفاده گر فراهم کرده تا به داده های حساس دسترسی پیدا کنن یا سیستم های خودکار رو دستکاری کنن. این وضعیت اهمیت امنیت هوش مصنوعی را دوچندان می کند و این قرارداد نشون دهنده تلاش آزمایشگاه های پیشرو برای اثبات این موضوعه که فناوری شون می تونه با خیال راحت در عملیات های حساس تجاری استفاده بشه.
پرامپت فو توسط ایان وبستر و مایکل دی آنجلو برای توسعه ابزارهایی تاسیس شد که شرکت ها بتونن باهاش حفره های امنیتی رو در مدل های زبانی بزرگ تست کنن. این ابزارها برای تقویت امنیت هوش مصنوعی طراحی شده اند و شامل یک رابط کاربری و کتابخانه متن باز هم می شه. این شرکت گزارش داده که بیش از 25٪ از شرکت های لیست Fortune 500 از محصولاتش استفاده می کنن.
طبق گزارش Pitchbook، پرامپت فو از زمان تاسیسش فقط 23 میلیون دلار جذب سرمایه داشته و بعد از آخرین دور سرمایه گذاریش در تیر 1404 (ژوئیه 2025)، 86 میلیون دلار ارزش گذاری شده بود. در دورانی که معیارهای جدید سرمایه گذاری هوش مصنوعی و چالش های استارتاپ ها باعث تغییر در نحوه جذب بودجه استارتاپ ها شده، این سرمایه گذاری ها بر پتانسیل پرامپت فو در زمینه امنیت هوش مصنوعی تاکید دارد. اوپن ای آی ارزش این معامله رو فاش نکرده.
چالش ها و راهکارهای امنیت هوش مصنوعی در سیستم های سازمانی
در پست وبلاگ اوپن ای آی اومده که تکنولوژی پرامپت فو به پلتفرم ایجنت های این شرکت اجازه می ده تا تست های امنیتی خودکار (Red-teaming) انجام بدن، جریان های کاری ایجنت ها رو برای مسائل امنیت هوش مصنوعی ارزیابی کنن و فعالیت ها رو برای مدیریت ریسک و رعایت قوانین زیر نظر بگیرن. این شرکت همچنین گفته که قصد داره به توسعه ابزارهای متن باز پرامپت فو ادامه بده و بدین ترتیب، به تقویت هر چه بیشتر امنیت هوش مصنوعی کمک کند.
تلفیق ابزارهای نظارتی و تست های خودکار با زیرساخت های هوش مصنوعی، مسیری ضروری برای جلب اعتماد کسب وکارها و کاربران نهایی است. تمرکز اوپن ای آی بر خرید شرکت های تخصصی در حوزه امنیت، نشان از بلوغ این بازار و اهمیت روزافزون حفاظت از سیستم های خودمختار در برابر تهدیدات نوین سایبری دارد.
