کارنگ رسانه اقتصاد نوآوری است. در کارنگ ما تلاش داریم کسب‌وکارهای نوآور ایرانی، استارتاپ‌ها، شرکت‌های دانش‌بنیان و دیگر کسب‌وکارها کوچک و بزرگی که در بخش‌های مختلف اقتصاد نوآوری در حال ارائه محصول و خدمت هستند را مورد بررسی قرار دهیم و از آینده صنعت، تولید، خدمات و دیگر بخش‌های اقتصاد بگوییم. کارنگ رسانه‌ای متعلق به بخش خصوصی ایران است.
یکی از مدیران ارشد فناوری در مایکروسافت اخیراً به کارمندان این شرکت گفته که اطلاعات محرمانه خود را با ابزارهای هوش مصنوعی به اشتراک نگذارند. در واقع کارمندان این شرکت می‌توانند از چت جی‌پی‌تی یا هر ابزار دیگری که توسط Open AI ساخته شود، استفاده کنند؛ اما نباید داده‌های حساس و اطلاعات محرمانه را از طریق این ابزارها ارسال کنند. این مدیر ارشد معتقد است که از این داده‌ها برای آموزش مدل‌های آینده استفاده می‌شود.
این در حالی است که مایکروسافت یکی سرمایه‌گذاران بزرگ در Open AI است. Open AI یک شرکت آمریکایی هوش مصنوعی و سازنده چت جی‌پی‌تی است. قابل توجه است مدت زیادی از سرمایه‌گذاری جدید مایکروسافت بر شرکت Open AI نمی‌گذرد. علاوه بر این مایکروسافت قصد دارد فناوری Open AI را در برخی محصولات دیگر خود مانند موتور جست‌و‌جوی بینگ و برنامه‌های آفیس بگنجاند.
با این وجود نمی‌توان نگرانی شرکت‌های بزرگ فناوری را در مورد این فناوری جدید نادیده گرفت. علاقه شدید و ناگهانی به چت جی‌پی‌تی باعث شده برخی از شرکت‌های فناوری به کارمندان خود در مورد تعامل آزادانه با این فناوری هشدار دهند. به گفته وینسنت کانیتزر، استاد علوم کامپیوتر و مدیر آزمایشگاه هوش مصنوعی در دانشگاه کارنگی ملون، رابطه نزدیک Open AI و مایکروسافت ممکن است به تضاد منافع احتمالی برای مایکروسافت منجر شود.
نگرانی مایکروسافت این است که کارمندان ناخواسته اطلاعات محرمانه شرکت، مانند کد نرم‌افزار داخلی را با ربات چت به اشتراک بگذارند. چت جی‌پی‌تی می‌تواند داده‌ها را پردازش کند تا خودش را آموزش دهد و نسخه‌هایی از اطلاعات محرمانه‌ای را که دریافت کرده، در مبادلات آینده با سایر کاربران به اشتراک بگذارد. کانیتزر در این باره می‌گوید: «طرفین، سرمایه‌گذار و استارتاپ، قراردادهای عدم افشا امضا کرده و تلاش می‌کنند در به‌اشتراک‌گذاری اطلاعات مراقب باشند. اما مدل‌هایی چون چت جی‌پی‌تی توانایی استدلال چنین مسائلی را ندارند.»
آمازون نیز با همین مشکل دست‌به‌گریبان است
در ماه دسامبر، چند هفته پس از راه‌اندازی عمومی چت جی‌پی‌تی، گروهی از کارمندان آمازون پرسیدند که آیا می‌توانند از چت‌بات برای کار استفاده کنند یا خیر. یکی از وکیلان شرکت آمازون به کارمندان هشدار داد که «هیچ اطلاعات محرمانه‌ای از آمازون را با چت جی‌پی‌تی به اشتراک نگذارند». این وکیل می‌گوید: «ورودی‌های شما ممکن است به‌عنوان داده‌های آموزشی برای چت جی‌پی‌تی مورد استفاده قرار گیرند. ما نمی‌خواهیم این چت‌بات شامل اطلاعات محرمانه آمازون باشد.»
چه کسی مسئول است؟
درحالی که کارمندان به دنبال محافظت از داده‌های محرمانه هستند، مشخص نیست که مایکروسافت یا Open AI دقیقاً می‌خواهند چه‌کاری برای حل این مشکل انجام دهند. کانیتزر می‌گوید: «همه ما با هم باید درک کنیم و بدانیم که در این شرایط باید از هم چه انتظاری داشته باشیم. آیا کارمندان باید حواس خود را جمع کنند و اطلاعات حساس را به اشتراک نگذارند یا Open AI باید در استفاده از اطلاعات محتاط باشد؟»
او ادامه می‌دهد: «شرایط و خدمات Open AI به نحوی است که به شرکت اجازه استفاده از تمام ورودی و خروجی تولیدشده توسط کاربران و چت جی‌پی‌تی را می‌دهد. به‌علاوه تمام اطلاعات شناسایی شخصی (PII) را از داده‌های قابل استفاده خود شرکت حذف می‌کند.»
در همین راستا امیلی بندر که در دانشگاه واشنگتن زبان‌شناسی محاسباتی تدریس می‌کند، می‌گوید: «با توجه به رشد سریع چت جی‌پی‌تی، برای Open AI تقریباً غیرممکن است که به‌طور کامل اطلاعات شخصی را از آن داده‌ها تفکیک و حذف کند. مالکیت معنوی شرکت احتمالاً بخشی از آنچه در PII تعریف شده است، نیست.
Open AI در مورد نحوه استفاده از داده‌ها کاملاً شفاف نیست، اما اگر این داده‌ها در راستای آموزش چت‌بات استفاده شوند، نباید تعجب کرد. پس از چند ماه استفاده گسترده از چت جی‌پی‌تی، استخراج اطلاعات خصوصی شرکت‌ها امکان‌پذیر خواهد بود.»
لینک کوتاه: https://karangweekly.ir/n8qf
