امروز: ۲۰۲۶/۱۱/۲۰ — تحریریه هوشمند ریکارت
عبارت مورد نظر خود را تایپ کنید تا نتایج به صورت آنی ظاهر شوند...
صفحه نخست / فناوری و AI / یک زنجیره تامین هوش مصنوعی درز، داده‌های م...
فناوری و AI

یک زنجیره تامین هوش مصنوعی درز، داده‌های مخفی کاربر را با سرعت هشدار دهنده‌ای فاش می‌کند

محققان 2 میلیون tripwire دیجیتال را در درخواست‌هایی که از طریق شبکه گسترده خدمات هوش مصنوعی ارسال می‌شد، کاشتند تا بفهمند چه اتفاقی برای اطلاعات حساسی که به آنها سپرده شده است. چیزی که آنها کشف کردند اکوسیستمی بود که مانند غربال اطلاعات بسیار حساسی را به بیرون درز می کر...
یک زنجیره تامین هوش مصنوعی درز، داده‌های مخفی کاربر را با سرعت هشدار دهنده‌ای فاش می‌کند
عکس گزارش: Ars Technica

محققان 2 میلیون tripwire دیجیتال را در درخواست‌هایی که از طریق شبکه گسترده خدمات هوش مصنوعی ارسال می‌شد، کاشتند تا بفهمند چه اتفاقی برای اطلاعات حساسی که به آنها سپرده شده است. چیزی که آنها کشف کردند اکوسیستمی بود که مانند غربال اطلاعات بسیار حساسی را به بیرون درز می کرد.

این قرار گرفتن در معرض از طریق یک آزمایش مبتکرانه طراحی شده برای آزمایش اینکه آیا اطلاعات حساس می توانند از طریق زنجیره وسیع سرویس های هوش مصنوعی به طور گسترده مورد استفاده قرار گیرند و نحوه بهره برداری از این اطلاعات در هنگام وقوع، پیدا شد. بسیاری از برنامه‌های هوش مصنوعی امروزی از خدماتی مانند OpenRouter یا Vercel استفاده می‌کنند که به عنوان کارگزار عمل می‌کنند. این «روترهای هوش مصنوعی» که گاهی به عنوان «دروازه‌های هوش مصنوعی» نیز شناخته می‌شوند، تعداد زیادی درخواست ارسال شده از کاربران نهایی برنامه هوش مصنوعی را دریافت می‌کنند و آنها را بر اساس معیارهایی مانند موتوری که پایین‌ترین قیمت را دریافت می‌کند یا مناسب‌ترین کار برای کار داده شده، به موتور استنتاج موجود هدایت می‌کنند. توسعه‌دهنده به‌جای استفاده از Anthropic، OpenAI یا ارائه‌دهنده بزرگ دیگر، یک روتر هوش مصنوعی استخدام می‌کند تا مناسب‌ترین مدل را پیدا کند.

برای آزمایش نشت احتمالی، محقق HD Moore مجموعه‌ای از کلیدهای دسترسی AWS، اعتبارنامه‌های کاربردی مرتبط با حساب‌های خالی AWS، گذرواژه‌های سرویس‌هایی مانند SSH و URL‌های منحصربه‌فرد، نام‌های DNS و مراجع مخزن git خصوصی را جمع‌آوری کرد. هیچ‌یک از این رازها قبلاً استفاده نشده بود، و او زیرساخت‌هایی را که هر درخواستی را دریافت می‌کرد با استفاده از اعتبار کنترل می‌کرد. سپس هر راز را دقیقاً در یک پیام ارسال کرد که به یک ارائه دهنده واحد ارسال شده بود. در صورت فاش شدن هر یک از اسرار، این «قناری‌ها» - به این دلیل که شبیه نقش آن پرنده در معادن زغال‌سنگ هستند - به مور اجازه می‌دهند تا هر یک از حلقه‌های زنجیره مسئول را شناسایی کند.

مور، مدیر ارشد تحقیقاتی شرکت امنیتی دراگوس، پنجشنبه نوشت: ما نزدیک به دو میلیون پیام هوش مصنوعی حاوی اسرار منحصر به فرد و قابل ردیابی را برای ارائه دهندگان هوش مصنوعی ارسال کردیم، سپس مشاهده کردیم که این اسرار کجا ظاهر شده است. "آنچه ما پیدا کردیم، نقض های امنیتی، سرقت سریع و شکست های گسترده در محافظت از داده های مشتری را نشان داد."

برچسب‌ها: #هوش مصنوعی #فناوری و AI
ارجاع مستقیم به منبع خبر
رصد و گزارش اولیه از پایگاه Ars Technica
مشاهده در وبگاه مبدا ↗

مطالب پیشنهادی و مرتبط

FCC به کالیفرنیا دستور می دهد تا اجرای قوانین خدمات تلفنی علیه AT&T را متوقف کند
فناوری و AI ۳۰ آبان • ۰۱:۵۸

FCC به کالیفرنیا دستور می دهد تا اجرای قوانین خدمات تلفنی علیه AT&T را متوقف کند

کمیسیون ارتباطات فدرال به کالیفرنیا دستور داد تا اجرای قوانین حامل آخرین راه حل (COLR) خود را علیه AT T متوقف کند و نبرد دیگری بین دولت ترامپ و کالیفرنیا بر سر حق این ایالت برای اجرای قوانین و مقررات مخابراتی خود ایجاد کرد. وضعیت AT T به عنوان حامل آخرین اقامتگاه در کال...

ترامپ برای انتقال مراکز داده هوش مصنوعی به خارج از ایالات متحده «مالیات فوق العاده» را تهدید کرد
فناوری و AI ۲۹ آبان • ۲۲:۲۰

ترامپ برای انتقال مراکز داده هوش مصنوعی به خارج از ایالات متحده «مالیات فوق العاده» را تهدید کرد

رئیس جمهور دونالد ترامپ وعده داده است که "مالیات بسیار زیادی" بر شرکت هایی که مراکز داده در خارج از ایالات متحده می سازند، اعمال کند، حتی در شرایطی که ایالت ها و شهرهای سراسر کشور محدودیت هایی را برای برنامه های جدید برای ساخت آنها اعمال می کنند. ترامپ روز جمعه پس از نش...

آلمان و اتریش خواستار واگذاری مالکیت تیک‌تاک به شرکت‌های اروپایی شدند
فناوری و AI ۲۹ آبان • ۱۷:۰۶

آلمان و اتریش خواستار واگذاری مالکیت تیک‌تاک به شرکت‌های اروپایی شدند

البته این پیشنهاد فعلا با استقبال چندانی از سوی کمیسیون اروپا روبه‌رو نشده است. The post آلمان و اتریش خواستار واگذاری مالکیت تیک‌تاک به شرکت‌های اروپایی شدند appeared first on دیجیاتو . دیجیاتو را در گوگل بیشتر ببینید کپی لینک 0 در دیجیاتو ثبت‌نام کنید جهت بهره‌مندی و ...