نحوه استفاده ایمن از ChatGPT، Bard و سایر هوش مصنوعی ها

ابزارهای هوش مصنوعی در همه جا قابل مشاهده هستند – از سیستم عامل ها و مجموعه های اداری گرفته تا ویرایشگرهای تصویر و چت. چگونه از ChatGPT، Bard و بسیاری از افزونه‌های دیگر بدون به خطر انداختن امنیت دیجیتال خود استفاده می‌کنید؟

رشد انفجاری سال گذشته در برنامه‌های کاربردی، خدمات و پلاگین‌های هوش مصنوعی به نظر می‌رسد تنها شتاب خواهد گرفت. از برنامه‌های اداری و ویرایشگرهای تصویر گرفته تا محیط‌های توسعه یکپارچه (IDE) مانند ویژوال استودیو – هوش مصنوعی به ابزارهای آشنا اضافه می‌شود. بسیاری از توسعه دهندگان در حال ایجاد هزاران برنامه جدید هستند که از بزرگترین مدل های هوش مصنوعی بهره می برند. با این حال، هیچ کس در این مسابقه هنوز نتوانسته مسائل امنیتی ذاتی را حل کند، در درجه اول به حداقل رساندن نشت داده های محرمانه، و همچنین سطح هک حساب/دستگاه از طریق ابزارهای مختلف هوش مصنوعی – چه رسد به ایجاد حفاظت های مناسب در برابر یک آینده نگر.

بنابراین، چگونه از هوش مصنوعی بدون اینکه بعداً پشیمان شوید استفاده می کنید؟

فیلتر کردن داده های مهم

سیاست حفظ حریم خصوصی OpenAI، توسعه‌دهنده ChatGPT، به صراحت بیان می‌کند که هر دیالوگ با ربات چت ذخیره می‌شود و می‌توان از آن برای اهداف مختلفی استفاده کرد. اول، اینها حل مسائل فنی و جلوگیری از نقض شرایط خدمات است: در صورتی که کسی ایده تولید محتوای نامناسب را پیدا کند. چه کسی فکرش را می کرد، درست است؟ در این صورت، چت ها حتی ممکن است توسط یک انسان بازبینی شوند. دوم، داده‌ها ممکن است برای آموزش نسخه‌های جدید GPT و ایجاد «بهبود» محصول دیگر استفاده شوند.

اکثر مدل‌های زبان محبوب دیگر – خواه Google’s Bard، Anthropic’s Claude، یا Microsoft’s Bing and Copilot – سیاست‌های مشابهی دارند: همه آنها می‌توانند گفتگوها را به طور کامل ذخیره کنند.

گفته می‌شود، نشت‌های ناخواسته چت قبلاً به دلیل اشکالات نرم‌افزاری رخ داده است و کاربران مکالمه‌های افراد دیگر را به جای مکالمات خودشان می‌بینند. استفاده از این داده‌ها برای آموزش همچنین می‌تواند منجر به نشت داده‌ها از یک مدل از پیش آموزش‌دیده شود: اگر دستیار هوش مصنوعی فکر می‌کند که برای پاسخ مرتبط است، ممکن است اطلاعات شما را به کسی بدهد. کارشناسان امنیت اطلاعات حتی چندین حمله (یک، دو، سه) را با هدف سرقت دیالوگ ها طراحی کرده اند، و بعید است که در آنجا متوقف شوند.

بنابراین، به یاد داشته باشید: هر چیزی که به یک ربات چت بنویسید می تواند علیه شما استفاده شود. توصیه می کنیم هنگام صحبت با هوش مصنوعی اقدامات احتیاطی را انجام دهید.

هیچ اطلاعات شخصی را به چت بات ارسال نکنید. هیچ گذرواژه، شماره پاسپورت یا کارت بانکی، آدرس، شماره تلفن، نام یا سایر اطلاعات شخصی که متعلق به شما، شرکت یا مشتریانتان است نباید در چت با هوش مصنوعی ختم شود. می‌توانید در درخواست خود این موارد را با ستاره یا «REDACTED» جایگزین کنید.

هیچ سندی را آپلود نکنید افزونه ها و افزونه های متعدد به شما امکان می دهند از چت بات ها برای پردازش اسناد استفاده کنید. ممکن است وسوسه شدیدی برای آپلود یک سند کاری برای مثلاً دریافت خلاصه اجرایی وجود داشته باشد. با این حال، با بارگذاری بی‌دقتی یک سند چند صفحه‌ای، خطر افشای داده‌های محرمانه، مالکیت معنوی یا یک راز تجاری مانند تاریخ انتشار یک محصول جدید یا لیست حقوق کل تیم را دارید. یا بدتر از آن، هنگام پردازش اسناد دریافتی از منابع خارجی، ممکن است هدف حمله ای قرار بگیرید که بر اساس آن سند توسط یک مدل زبان اسکن می شود.

از تنظیمات حریم خصوصی استفاده کنید. سیاست حفظ حریم خصوصی و تنظیمات موجود فروشنده مدل بزرگ زبان (LLM) خود را به دقت بررسی کنید: معمولاً می توان از این تنظیمات برای به حداقل رساندن ردیابی استفاده کرد. به عنوان مثال، محصولات OpenAI به شما امکان می دهند ذخیره تاریخچه چت را غیرفعال کنید. در این صورت، داده ها پس از 30 روز حذف می شوند و هرگز برای آموزش استفاده نمی شوند. کسانی که از API، برنامه های شخص ثالث یا سرویس ها برای دسترسی به راه حل های OpenAI استفاده می کنند، این تنظیمات به طور پیش فرض فعال است.

ارسال کد؟ هر گونه داده محرمانه را پاک کنید. این نکته برای آن دسته از مهندسان نرم‌افزاری که از دستیاران هوش مصنوعی برای بررسی و بهبود کد خود استفاده می‌کنند می‌آید: کلیدهای API، آدرس‌های سرور یا هر اطلاعات دیگری را که می‌تواند ساختار برنامه یا پیکربندی سرور را از بین ببرد، حذف کنید.

استفاده از برنامه ها و افزونه های شخص ثالث را محدود کنید

نکات بالا را هر بار دنبال کنید – مهم نیست از چه دستیار هوش مصنوعی محبوبی استفاده می کنید. با این حال، حتی این ممکن است برای تضمین حریم خصوصی کافی نباشد. استفاده از پلاگین‌های ChatGPT، افزونه‌های Bard یا برنامه‌های جانبی جداگانه، انواع جدیدی از تهدیدات را ایجاد می‌کند.

اول، تاریخچه چت شما اکنون ممکن است نه تنها در سرورهای Google یا OpenAI بلکه در سرورهای متعلق به شخص ثالثی که از افزونه یا افزونه پشتیبانی می‌کند و همچنین در گوشه‌های غیرمحتمل رایانه یا تلفن هوشمند شما ذخیره شود.

دوم، بیشتر افزونه‌ها اطلاعات را از منابع خارجی دریافت می‌کنند: جستجوهای وب، صندوق ورودی جیمیل شما، یا یادداشت‌های شخصی از سرویس‌هایی مانند Notion، Jupyter یا Evernote. در نتیجه، هر یک از داده‌های شما از آن سرویس‌ها نیز ممکن است به سرورهایی ختم شود که پلاگین یا خود مدل زبان در آن اجرا می‌شود. چنین ادغامی ممکن است خطرات قابل توجهی به همراه داشته باشد: به عنوان مثال، این حمله را در نظر بگیرید که مخازن جدید GitHub را از طرف کاربر ایجاد می کند.

سوم، انتشار و تأیید پلاگین‌ها برای دستیاران هوش مصنوعی در حال حاضر فرآیند بسیار کمتری نسبت به غربالگری برنامه در اپ استور یا گوگل پلی است. بنابراین، شانس شما برای مواجهه با یک پلاگین بد کار، بد نوشته، باگ یا حتی یک پلاگین مخرب ساده نسبتاً زیاد است – بیشتر از آن به این دلیل که به نظر می رسد هیچ کس واقعاً سازندگان یا مخاطبین آنها را بررسی نمی کند.

چگونه این خطرات را کاهش می دهید؟ نکته کلیدی ما در اینجا این است که به آن زمان بدهید. اکوسیستم پلاگین بسیار جوان است، فرآیندهای انتشار و پشتیبانی به اندازه کافی روان نیستند، و خود سازندگان همیشه مراقب طراحی صحیح افزونه ها یا رعایت الزامات امنیت اطلاعات نیستند. کل این اکوسیستم به زمان بیشتری نیاز دارد تا بالغ شود و ایمن تر و قابل اعتمادتر شود.

علاوه بر این، ارزشی که بسیاری از افزونه‌ها و افزونه‌ها به نسخه استوک ChatGPT اضافه می‌کنند بسیار کم است: تغییرات جزئی در رابط کاربری و الگوهای «اعلان سیستم» که دستیار را برای یک کار خاص سفارشی می‌کنند («به عنوان معلم فیزیک دبیرستان عمل کنید… ”). مطمئناً این بسته‌بندی‌ها ارزش اعتماد به داده‌های شما را ندارند، زیرا می‌توانید بدون آنها کار را به خوبی انجام دهید.

اگر به برخی از ویژگی‌های پلاگین در اینجا و اکنون نیاز دارید، سعی کنید حداکثر اقدامات احتیاطی موجود را قبل از استفاده از آنها انجام دهید.

افزونه‌ها و افزونه‌هایی را انتخاب کنید که حداقل چندین ماه است که وجود دارند و مرتباً به‌روزرسانی می‌شوند.
فقط پلاگین هایی را در نظر بگیرید که دانلودهای زیادی دارند و بررسی ها را برای هر مشکلی به دقت بخوانید.
اگر افزونه دارای خط مشی رازداری است، قبل از شروع استفاده از برنامه افزودنی، آن را به دقت بخوانید.
ابزارهای منبع باز را انتخاب کنید.
اگر حتی مهارت‌های کدنویسی ابتدایی دارید – یا دوستان کدنویس – کد را حذف کنید تا مطمئن شوید که داده‌ها را فقط به سرورهای اعلام شده و در حالت ایده‌آل فقط سرورهای مدل هوش مصنوعی ارسال می‌کند.

پلاگین های اجرایی نیاز به نظارت ویژه دارند

تاکنون، ما در مورد خطرات مربوط به نشت داده ها بحث کرده ایم. اما این تنها مشکل بالقوه هنگام استفاده از هوش مصنوعی نیست. بسیاری از افزونه‌ها می‌توانند اقدامات خاصی را به دستور کاربر انجام دهند – مانند سفارش بلیط هواپیما. این ابزارها یک بردار حمله جدید را در اختیار بازیگران مخرب قرار می دهند: قربانی یک سند، صفحه وب، ویدئو یا حتی تصویری ارائه می شود که علاوه بر محتوای اصلی حاوی دستورالعمل های پنهان برای مدل زبان است. اگر قربانی سند یا پیوندی را به یک ربات چت ارسال کند، این ربات دستورات مخرب را اجرا می‌کند – به عنوان مثال، با خرید بلیط با پول قربانی. از این نوع حمله به عنوان تزریق سریع یاد می شود، و اگرچه توسعه دهندگان LLM های مختلف در تلاش هستند تا حفاظتی در برابر این تهدید ایجاد کنند، اما هیچ کس آن را مدیریت نکرده است – و شاید هرگز نخواهد کرد.

خوشبختانه، بیشتر اقدامات مهم – به ویژه آنهایی که شامل تراکنش های پرداخت مانند خرید بلیط هستند – نیاز به تأیید مضاعف دارند. با این حال، تعامل بین مدل‌های زبان و افزونه‌ها، سطح حمله‌ای را به‌قدری بزرگ ایجاد می‌کند که تضمین نتایج ثابت از این اقدامات دشوار است.

بنابراین، هنگام انتخاب ابزارهای هوش مصنوعی باید واقعاً دقیق باشید و همچنین مطمئن شوید که آنها فقط داده های قابل اعتماد را برای پردازش دریافت می کنند.

جمع بندی نهایی:

استفاده ایمن از مدل‌های هوش مصنوعی مانند ChatGPT، Bard و سایر فناوری‌های مشابه برای محافظت از حریم خصوصی، کاهش تعصبات و اطمینان از استفاده مسئولانه از اهمیت بالایی برخوردار است. در حالی که این مدل‌های هوش مصنوعی قابلیت‌های باورنکردنی را ارائه می‌دهند، پیروی از دستورالعمل‌های خاصی برای حفظ استفاده اخلاقی و ایمن بسیار مهم است.

1. حریم خصوصی داده ها: هنگام تعامل با مدل های هوش مصنوعی، مراقب داده هایی که ارائه می کنید باشید. از به اشتراک گذاری اطلاعات شخصی حساس مانند نام کامل، آدرس یا جزئیات مالی خودداری کنید. به یاد داشته باشید که این مدل ها اطلاعات را در طول جلسه حفظ می کنند اما حافظه طولانی مدت ندارند. با این وجود، همیشه عاقلانه است که احتیاط کنید و حریم خصوصی خود را در اولویت قرار دهید.

2. آگاهی زمینه‌ای: مدل‌های هوش مصنوعی در زمینه‌ای که در اختیار آنها قرار می‌گیرد رشد می‌کنند. موضوع، موضوع یا دامنه ای را که می خواهید به آن کمک کنید، به وضوح مشخص کنید و به مدل کمک کنید تا پاسخ های مرتبط تر و دقیق تری ارائه دهد. با ارائه زمینه، می توانید مکالمه را هدایت کنید و اطمینان حاصل کنید که خروجی هوش مصنوعی با نیازهای شما مطابقت دارد.

3. استفاده مسئولانه: استفاده مسئولانه از مدل های هوش مصنوعی ضروری است. از به کارگیری آنها برای اهداف مخرب مانند ایجاد دیپ فیک، انتشار اطلاعات نادرست یا شرکت در فعالیت های مضر خودداری کنید. با استفاده اخلاقی و مسئولانه از هوش مصنوعی، می‌توانیم به یک اکوسیستم دیجیتال امن‌تر و قابل اعتمادتر کمک کنیم.

4. کاهش تعصب: در حالی که مدل‌های هوش مصنوعی می‌کوشند بی‌طرفانه باشند، می‌توانند ناخواسته سوگیری‌های موجود در داده‌هایی را که بر روی آنها آموزش دیده‌اند منعکس کنند. از این سوگیری احتمالی آگاه باشید و پاسخ هایی را که دریافت می کنید به طور انتقادی ارزیابی کنید. در صورت مشاهده هرگونه سوگیری، ضروری است به آنها رسیدگی کنید و بازخورد خود را به توسعه دهندگان یا سازمان هایی که مسئول حفظ و بهبود مدل هوش مصنوعی هستند ارائه دهید.

5. راستی‌آزمایی و بررسی واقعیت: مدل‌های هوش مصنوعی در تولید پاسخ‌ها بر اساس الگوها و داده‌های موجود برتری دارند. با این حال، ممکن است همیشه اطلاعات دقیقی ارائه نکنند یا آخرین به‌روزرسانی‌ها را منعکس نکنند. اطلاعات دریافتی از مدل‌های هوش مصنوعی را از طریق منابع معتبر و روش‌های راستی‌آزمایی تأیید کنید. تنها تکیه بر هوش مصنوعی بدون تایید انسانی می تواند منجر به انتشار اطلاعات نادرست شود.

6. بازخورد و گزارش: مدل های هوش مصنوعی به طور مداوم در حال تکامل هستند و بازخورد کاربران در افزایش عملکرد و ایمنی آنها بسیار ارزشمند است. اگر با محتوای نامناسب یا مضر تولید شده توسط یک مدل هوش مصنوعی مواجه شدید، آن را به مقامات مربوطه یا پلتفرم میزبان مدل گزارش دهید. با مشارکت فعال در فرآیند بازخورد، به بهبود رفتار مدل و تضمین تجربه کاربری ایمن‌تر کمک می‌کنید.

7. آگاهی کاربر: از قابلیت ها و محدودیت های مدل های هوش مصنوعی مطلع شوید. بدانید که هوش مصنوعی یک ابزار است و نه یک اوراکل خطاناپذیر. ارزیابی انتقادی پاسخ های تولید شده توسط مدل های هوش مصنوعی و اعمال قضاوت انسانی در صورت لزوم ضروری است. از هوش مصنوعی به عنوان یک ابزار حمایتی برای تقویت دانش و فرآیندهای تصمیم گیری خود استفاده کنید.

در نتیجه، استفاده از مدل‌های هوش مصنوعی مانند ChatGPT، Bard، و سایر مدل‌های ایمن شامل توجه به حریم خصوصی داده‌ها، ارائه آگاهی متنی، استفاده مسئولانه از آنها، کاهش تعصبات، تأیید اطلاعات، ارائه بازخورد، حفظ آگاهی کاربر و به‌روز نگه داشتن مدل‌ها است. با پیروی از این دستورالعمل‌ها، می‌توانیم از پتانسیل هوش مصنوعی بهره ببریم و در عین حال از محیطی امن‌تر و قابل اعتمادتر مبتنی بر هوش مصنوعی اطمینان حاصل کنیم.

ترجمه:
پیشگامان تجارت امن ایرانیان