محققان 2 میلیون tripwire دیجیتال را در درخواستهایی که از طریق شبکه گسترده خدمات هوش مصنوعی ارسال میشد، کاشتند تا بفهمند چه اتفاقی برای اطلاعات حساسی که به آنها سپرده شده است. چیزی که آنها کشف کردند اکوسیستمی بود که مانند غربال اطلاعات بسیار حساسی را به بیرون درز می کرد.
این قرار گرفتن در معرض از طریق یک آزمایش مبتکرانه طراحی شده برای آزمایش اینکه آیا اطلاعات حساس می توانند از طریق زنجیره وسیع سرویس های هوش مصنوعی به طور گسترده مورد استفاده قرار گیرند و نحوه بهره برداری از این اطلاعات در هنگام وقوع، پیدا شد. بسیاری از برنامههای هوش مصنوعی امروزی از خدماتی مانند OpenRouter یا Vercel استفاده میکنند که به عنوان کارگزار عمل میکنند. این «روترهای هوش مصنوعی» که گاهی به عنوان «دروازههای هوش مصنوعی» نیز شناخته میشوند، تعداد زیادی درخواست ارسال شده از کاربران نهایی برنامه هوش مصنوعی را دریافت میکنند و آنها را بر اساس معیارهایی مانند موتوری که پایینترین قیمت را دریافت میکند یا مناسبترین کار برای کار داده شده، به موتور استنتاج موجود هدایت میکنند. توسعهدهنده بهجای استفاده از Anthropic، OpenAI یا ارائهدهنده بزرگ دیگر، یک روتر هوش مصنوعی استخدام میکند تا مناسبترین مدل را پیدا کند.
برای آزمایش نشت احتمالی، محقق HD Moore مجموعهای از کلیدهای دسترسی AWS، اعتبارنامههای کاربردی مرتبط با حسابهای خالی AWS، گذرواژههای سرویسهایی مانند SSH و URLهای منحصربهفرد، نامهای DNS و مراجع مخزن git خصوصی را جمعآوری کرد. هیچیک از این رازها قبلاً استفاده نشده بود، و او زیرساختهایی را که هر درخواستی را دریافت میکرد با استفاده از اعتبار کنترل میکرد. سپس هر راز را دقیقاً در یک پیام ارسال کرد که به یک ارائه دهنده واحد ارسال شده بود. در صورت فاش شدن هر یک از اسرار، این «قناریها» - به این دلیل که شبیه نقش آن پرنده در معادن زغالسنگ هستند - به مور اجازه میدهند تا هر یک از حلقههای زنجیره مسئول را شناسایی کند.
مور، مدیر ارشد تحقیقاتی شرکت امنیتی دراگوس، پنجشنبه نوشت: ما نزدیک به دو میلیون پیام هوش مصنوعی حاوی اسرار منحصر به فرد و قابل ردیابی را برای ارائه دهندگان هوش مصنوعی ارسال کردیم، سپس مشاهده کردیم که این اسرار کجا ظاهر شده است. "آنچه ما پیدا کردیم، نقض های امنیتی، سرقت سریع و شکست های گسترده در محافظت از داده های مشتری را نشان داد."