جریان اصلی هوش مصنوعی مولد قابلیت های اینجا و اکنون، نوید پیشرفت های آینده – و بیش از چند دام را ارائه می دهد.
این شکل از فناوری هوش مصنوعی در سال 2022 با انتشار ChatGPT و Dall-E 2 OpenAI پیشرفت کرد. این ابزارها و جانشینانی مانند Google’s Bard، محتوای با کیفیت بالا و تولید شده توسط هوش مصنوعی را به واقعیتی روزمره تبدیل می کنند. هر یک از این محصولات بر اساس یک مدل زبان ساخته شده‌اند، یک نوع مدل یادگیری ماشینی که بر روی حجم عظیمی از داده‌های آموزشی ساخته شده است.
کاربران اکنون می‌توانند از مدل‌های هوش مصنوعی برای طیف وسیعی از کارهای تولید محتوا استفاده کنند: متن، تصویر، ویدیو، صدا و داده‌های مصنوعی همه در ترکیب هستند. اما مزایای بالقوه این فناوری هزینه ای دارد. در اینجا هفت چالش مولد هوش مصنوعی وجود دارد که رهبران کسب و کار باید در نظر بگیرند.
1. رسیدگی به پیچیدگی فنی
مدل‌های هوش مصنوعی مولد ممکن است حاوی میلیاردها یا حتی تریلیون‌ها پارامتر باشند که آنها را به کاری پیچیده برای کسب‌وکار معمولی تبدیل می‌کند.
Arun Chandrasekaran، نایب رئیس، تحلیلگر، نوآوری فناوری در Gartner گفت: «این مدل‌ها برای آموزش بیشتر سازمان‌ها غیرعملی بزرگ هستند. او گفت که منابع محاسباتی لازم می‌تواند این فناوری را گران‌تر و از نظر زیست‌محیطی غیردوستانه کند، بنابراین اکثر استفاده‌های کوتاه‌مدت احتمالاً باعث می‌شود کسب‌وکارها هوش مصنوعی مولد را از طریق APIهای ابری با تنظیم محدود مصرف کنند.
چاندراسکاران افزود، دشواری در ایجاد مدل ها منجر به مسئله دیگری می شود: تمرکز قدرت در چند موجودیت عمیق.
2. مقابله با سیستم های قدیمی
گنجاندن هوش مصنوعی مولد در محیط‌های فناوری قدیمی‌تر می‌تواند مشکلات بیشتری را برای شرکت‌ها ایجاد کند. رهبران فناوری اطلاعات در مورد ادغام یا جایگزینی سیستم‌های قدیمی‌تر تصمیم‌گیری خواهند کرد.
به عنوان مثال، مؤسسات مالی با توجه به اینکه چگونه یک مدل زبان پابلو آلجو، شریک مشاور وست مونرو، گفت که می‌تواند برای تعیین تقلب مورد استفاده قرار گیرد و احتمالاً فناوری نوظهور را در تضاد با نحوه مدیریت سیستم‌های فعلی آن با این کار می‌داند.
آلجو توضیح داد: «سیستم‌های قدیمی روش بسیار خاصی برای انجام این کار دارند و اکنون شما هوش مصنوعی مولد دارید که از انواع مختلف تفکر بهره می‌برد. سازمان‌ها باید راه‌های جدیدی برای ایجاد یکپارچگی یا پذیرش قابلیت‌های جدید با فناوری‌های جدید بیابند که آنها را قادر می‌سازد به همان خروجی‌ها یا نتایج، سریع‌تر و مؤثرتر برسند.»
فناوری هوش مصنوعی مولد، شرکت‌ها را در جنبه‌های اصلی خود درگیر می‌کند.
3. اجتناب از بدهی فنی
اگر کسب‌وکارها نتوانند از طریق پذیرش آن به تغییرات قابل توجهی دست یابند، هوش مصنوعی مولد می‌تواند به سیستم‌های قدیمی به عنوان بدهی فنی بپیوندد.
شرکتی که مدل‌های هوش مصنوعی را برای پشتیبانی مشتری به کار می‌گیرد، ممکن است پیروزی بهینه‌سازی را به این دلیل اعلام کند که عوامل انسانی پرونده‌های کمتری را مدیریت می‌کنند. به گفته بیل براگ، مدیر ارشد اجرایی شرکت SymphonyAI ارائه‌دهنده هوش مصنوعی SaaS، اما کاهش حجم کار به اندازه کافی پیش نمی‌رود. او خاطرنشان کرد که یک کسب و کار باید به میزان قابل توجهی تعداد نمایندگان در نقش های پشتیبانی خط مقدم را کاهش دهد تا سرمایه گذاری در هوش مصنوعی را توجیه کند.
“اگر چیزی را حذف نکنید، چگونه بهینه سازی کرده اید؟” براگ گفت. تنها کاری که شما انجام داده اید این است که بدهی بیشتری به فرآیندهای خود اضافه کنید.
4. تغییر شکل بخشی از نیروی کار
هوش مصنوعی مولد احتمالاً نحوه انجام کار در بسیاری از زمینه‌ها را بازسازی می‌کند، چشم‌اندازی که نگرانی‌های مربوط به از دست دادن شغل را افزایش می‌دهد. یک مقاله در صنعت بازی های ویدیویی چین، فرصت های شغلی برای هنرمندان در حال از بین رفتن است زیرا شرکت ها از تولید کننده های تصویر مبتنی بر هوش مصنوعی استفاده می کنند.
اگر تیمی ندارید که در مورد چگونگی درک کار می کند [generative AI’s] توانایی و استفاده از آن، در خطر کهنگی هستید. پابلو آلجو شریک در وست مونرو
اما برخی از مدیران پیشنهاد می کنند که این همه عذاب و تاریکی نیست. براگ گفت که هوش مصنوعی ممکن است تعداد نمایندگان را در مثال پشتیبانی مشتری کاهش دهد، اما این فناوری نقش های دیگری را نیز ایجاد می کند. او استدلال کرد که یک کسب و کار به کارکنانی برای نظارت و بهبود تجربه مشتری با کمک هوش مصنوعی نیاز دارد. کارمندانی که زمانی سوالات مشتریان را در لپ‌تاپ‌های کند مطرح می‌کردند، در عوض اطلاعات و پیشرفت‌های فنی بعدی را هدایت می‌کردند. براگ از این انتقال به عنوان “رفتن از انجام دهنده به مربی” یاد کرد.
به طور مشابه، آلجو گفت که هوش مصنوعی مولد برخی از انواع مشاغل را حذف می کند، اما همچنین “انواع مشاغل جدیدی را باز می کند که همان افراد می توانند از آنها استفاده کنند.”
5. نظارت بر سوء استفاده بالقوه و توهمات هوش مصنوعی
مدل های هوش مصنوعی هزینه تولید محتوا را کاهش می دهند. این به کسب‌وکارها کمک می‌کند، اما به عوامل تهدید کمک می‌کند که به راحتی می‌توانند محتوای موجود را برای ایجاد جعلی‌های عمیق تغییر دهند. رسانه های دیجیتالی تغییر یافته می توانند از نزدیک نسخه اصلی را تقلید کنند و بیش از حد شخصی شوند. چاندراسکاران گفت: «این شامل همه چیز از جعل هویت صوتی و تصویری گرفته تا هنر جعلی و همچنین حملات هدفمند می شود.
در حالی که عوامل تهدید می توانند از سیستم های هوش مصنوعی مولد سوء استفاده کنند، خود مدل ها می توانند کاربران را به بیراهه بکشانند: توهمات هوش مصنوعی اطلاعات نادرست ارائه می دهد و “واقعیت ها” را می سازد. Chandrasekaran افزود: نرخ توهم بسته به دامنه، می تواند 10٪ تا 20٪ از پاسخ های ابزارهای هوش مصنوعی باشد.
6. توجه به نگرانی های حقوقی و سوگیری الگوریتمی
فن آوری نوظهور همچنین می تواند با مسائل مربوط به مالکیت معنوی برخورد کند، قرار دادن مشاغل در معرض اقدامات قانونی. Chandrasekaran گفت: «مدل‌های هوش مصنوعی مولد خطر بیشتری برای جستجوی داده‌های آموزشی در مقیاس وسیع، بدون در نظر گرفتن تأیید سازنده دارند، که می‌تواند منجر به مشکلات کپی رایت شود».
سوگیری الگوریتمی منبع دیگری از ریسک قانونی است. مدل‌های هوش مصنوعی مولد، زمانی که بر روی داده‌های معیوب، ناقص یا غیرمعمول آموزش داده می‌شوند، نتایجی را ایجاد می‌کنند که از نظر سیستمی تعصب دارند. بدون کنترل، تعصب هوش مصنوعی در سیستم‌ها گسترش می‌یابد و بر تصمیم‌گیرندگان با تکیه بر نتایج تأثیر می‌گذارد و به طور بالقوه منجر به تبعیض می‌شود.
چاندراسکاران گفت: مدل‌های ناقص هوش مصنوعی «می‌توانند سوگیری پایین‌دستی را در مجموعه‌های داده منتشر کنند و همگن‌سازی چنین مدل‌هایی می‌تواند منجر به یک نقطه شکست شود».
7. ایجاد هماهنگی و نظارت
فن‌آوری‌های جدیدتر اغلب سازمان‌ها را مجبور می‌کنند تا مراکز تعالی (CoE) را راه‌اندازی کنند تا بر پذیرش و گسترش مؤثر تمرکز کنند. چنین مراکزی می توانند نقش مهمی در هوش مصنوعی مولد ایفا کنند.
آلجو هشدار داد: “اگر تیمی ندارید که روی چگونگی درک این قابلیت و استفاده از آن کار کند، در معرض خطر منسوخ شدن هستید.” “مراکز تعالی باید در هر صنعت، در هر سازمان وجود داشته باشد.”
چنین گروه تخصصی همچنین می‌تواند سیاست‌هایی را برای کنترل استفاده قابل قبول از هوش مصنوعی مولد ایجاد کند. Alejo توصیه کرد: CoE باید طراحی خط مشی و تصمیم گیری را برای نحوه استفاده افراد مختلف در یک سازمان از آن رهبری کند. او افزود که این مرکز باید بازبینی و نظر ذینفعان کلیدی از جمله حقوقی، فناوری اطلاعات، ریسک و احتمالاً بخش‌های دیگر مانند بازاریابی، منابع انسانی و تحقیق و توسعه را به کار گیرد.