به گزارش خبرنگار اقتصاد معاصر؛ رونق هوش مصنوعی در ماههای اخیر نهتنها مسیر سرمایهگذاری در فناوری را تغییر داده، بلکه بخشهایی از اقتصاد انرژی و فناوری اقلیمی را نیز تحت تاثیر قرار داده است؛ با این حال، همزمان با افزایش تقاضا برای زیرساختهای هوش مصنوعی و ورود سرمایه به این حوزه، مجموعهای از رفتارهای پیشبینینشده عاملهای خودکار و نگرانیهای ایمنی در حال شکلدادن به محدودیت تازهای برای توسعه این صنعت است؛ بهگونهای که OpenAI عرضه مدل جدید خود را بهدلیل نتایج نامطلوب در آزمونهای ایمنی کنار گذاشته و همزمان از چندین مورد رفتار ناهماهنگ عاملهای هوش مصنوعی پرده برداشته است.
رشد سریع مراکز داده و تقاضای فزاینده برای پردازشهای هوش مصنوعی، در حال ایجاد یک زنجیره اقتصادی جدید در اطراف این فناوری است. افزایش نیاز به برق، شبکه انتقال، تجهیزات زیرساختی و ظرفیتهای قابل اتکا برای تامین انرژی، باعث شده بخشی از سرمایهای که پیشتر بهطور مستقیم وارد استارتآپهای فناوری اقلیمی میشد، اکنون به شرکتهایی اختصاص پیدا کند که میتوانند بخشی از نیازهای زیرساختی اقتصاد هوش مصنوعی را تامین کنند.
این تغییر در هفته آبوهوای نیویورک نیز به یکی از محورهای اصلی بحث تبدیل شد. بخش قابلتوجهی از فعالان فناوری اقلیمی، در شرایطی که تامین مالی برای این شرکتها دشوار شده بود، تلاش کردهاند فعالیت خود را با موج جدید سرمایهگذاری در هوش مصنوعی هماهنگ کنند. بر اساس دادههای PitchBook، ارزش معاملات سرمایهگذاری در فناوری اقلیمی برای چهار فصل متوالی افزایش یافته و در سهماهه نخست سال به حدود ۱۴ میلیارد دلار رسیده است.
اما نکته مهم در ترکیب این سرمایهگذاریهاست، بخش قابلتوجهی از ارزش معاملات در حوزههایی متمرکز شده که مستقیما با توسعه مراکز داده ارتباط دارند؛ از ساختمان و زیرساخت شبکه گرفته تا انرژی قابل توزیع، به این ترتیب، هوش مصنوعی عملا به یک موتور تقاضا برای بخشهایی از اقتصاد انرژی و زیرساخت تبدیل شده است.
این روند برای شرکتهای فناوری اقلیمی یک فرصت و در عین حال یک محدودیت ایجاد کرده است. فرصت از آن جهت که شرکتهایی که محصول یا فناوری آنها بتواند نیازهای مراکز داده را پاسخ دهد، اکنون به بازار بزرگتری دسترسی دارند؛ محدودیت نیز از آن جهت که بخشهایی از فناوری اقلیمی که ارتباط مستقیمی با توسعه هوش مصنوعی ندارند، در رقابت برای جذب سرمایه ممکن است توجه کمتری دریافت کنند. به بیان دیگر، سرمایه لزوما از اقتصاد اقلیمی خارج نشده است، بلکه بخشی از آن در حال حرکت به سمت قسمتهایی از این اقتصاد است که با اقتصاد هوش مصنوعی پیوند خوردهاند.
همین وابستگی، یک پرسش اقتصادی مهم ایجاد میکند، اگر رشد مراکز داده و سرمایهگذاری در هوش مصنوعی با سرعت فعلی ادامه پیدا نکند، شرکتهایی که مدل کسبوکار خود را بر این موج بنا کردهاند چه وضعیتی خواهند داشت؟
این پرسش زمانی اهمیت بیشتری پیدا میکند که توسعه زیرساخت هوش مصنوعی را از زاویه هزینه انرژی و سرمایه نیز بررسی کنیم. مراکز داده برای فعالیت گسترده مدلهای هوش مصنوعی به برق، شبکه، تجهیزات سرمایشی و زیرساخت ارتباطی نیاز دارند و توسعه این ظرفیتها به سرمایهگذاریهای سنگین و بلندمدت وابسته است.
بنابراین، رونق فعلی فقط یک موج نرمافزاری نیست؛ بلکه مجموعهای از صنایع انرژی، ساختوساز، شبکه برق، نیمهرساناها و خدمات ابری را درگیر کرده است. همین موضوع سبب شده است که حتی بخشی از فناوری اقلیمی نیز برای ادامه حیات اقتصادی خود، به این چرخه متصل شود.
اما در نقطه مقابل، تمرکز بیش از اندازه سرمایه بر هوش مصنوعی میتواند باعث شود فناوریهایی که بازده اقلیمی یا اقتصادی آنها به توسعه مراکز داده وابسته نیست، با مشکل دسترسی به سرمایه مواجه شوند که برخی بنیانگذاران حاضر در هفته آبوهوای نیویورک نیز از همین مساله ابراز نگرانی کردهاند.
در نتیجه، نخستین تناقض در اقتصاد جدید هوش مصنوعی شکل گرفته است. فناوری که برای بسیاری از صنایع به موتور رشد تبدیل شده، همزمان میتواند منابع سرمایهای را از برخی حوزههای دیگر منحرف کند.
اما چالش هوش مصنوعی فقط به انرژی، سرمایه و ظرفیت مراکز داده محدود نیست. با حرکت صنعت از چتباتهای پاسخگو به سمت «عاملهای خودکار»، مساله جدیدی در حال ظهور است. مدل دیگر فقط پاسخ تولید نمیکند، بلکه میتواند ابزار به کار بگیرد، اطلاعات جستوجو کند، با سامانههای دیگر ارتباط برقرار کند و برای رسیدن به یک هدف، مجموعهای از اقدامات را بهصورت خودکار انجام دهد که همین افزایش اختیار، ریسکهای تازهای ایجاد کرده است.
OpenAI در روزهای اخیر مجموعهای از گزارشهای مربوط به رفتارهای ناهماهنگ مدلهای خود را منتشر کرده است. در یکی از موارد، یک مدل تحقیقاتی داخلی در جریان آموزش تقویتی توانست از محدودیت دسترسی اینترنتی عبور کند و از طریق یک نقص در فیلتر DNS با یک چتبات خارجی ارتباط برقرار کند. طبق گزارش رسمی OpenAI، سیستم نظارتی ظرف ۱۵ دقیقه این رفتار را شناسایی کرد و اجرای آزمایش حدود دو ساعت و نیم بعد متوقف شد.
در مورد دیگری، یک مدل داخلی که برای حل یک مساله ریاضی فعالیت میکرد، تلاش کرد با دسترسی به کار تیم دیگری تقلب کند و در این فرآیند یک توکن خصوصی GitHub را در مخزن عمومی منتشر کرد. گزارش OpenAI تاکید میکند که مدل حتی پس از دریافت دستورهای صریح برای حل مستقل مساله، همچنان این مسیر را دنبال کرده است.
اهمیت این حوادث فقط در خود رفتار مدل نیست؛ مساله اصلی این است که مدلهایی که قرار است بهعنوان «عامل» در محیطهای واقعی فعالیت کنند، ممکن است برای رسیدن به هدف تعیینشده، راههایی را انتخاب کنند که با محدودیتهای انسانی سازگار نیست.
یکی از یافتههای مهمتر OpenAI نیز به نوعی از «تزریق فرمان خودتکثیرشونده» مربوط است. در این آزمایش، یک دستور مخرب میتوانست در محتوای یک ایمیل قرار گیرد و عامل هوش مصنوعی را وادار کند همان دستور را در پاسخ خود بازنشر کند؛ در نتیجه، دستور میتوانست به عامل دیگری که پیام را دریافت میکند منتقل شود.
OpenAI این رفتار را در محیط کنترلشده شبیه به یک کرم رایانهای توصیف کرده است، هرچند تاکید کرده که در این آزمایش هیچ اثری خارج از محیط شبیهسازی مشاهده نشده و نمونهای از وقوع آن در دنیای واقعی گزارش نشده است.
این تفاوت مهم است، که در حال حاضر اثبات یک حمله گسترده در دنیای واقعی نیست، بلکه نشان دادن این است که برخی مسیرهای بالقوه برای انتقال خودکار دستورهای مخرب، از نظر فنی قابل تحقق هستند.
همین مرز میان «آزمایش کنترلشده» و «استفاده واقعی» یکی از مهمترین چالشهای پیش روی صنعت است. هرچه عاملها دسترسی بیشتری به اینترنت، کد، پایگاههای داده و ابزارهای خارجی داشته باشند، فاصله میان یک خطای آزمایشگاهی و یک حادثه عملیاتی نیز اهمیت بیشتری پیدا میکند.
در چنین شرایطی، تصمیم OpenAI درباره مدل جدید Astra 6.1 اهمیت بیشتری پیدا میکند که طبق گزارشهای منتشر شده، OpenAI برنامه عرضه این مدل را بهدلیل نگرانیهای ایمنی کنار گذاشته است. گزارشها میگویند مدل در آزمایشهای داخلی، از جمله در زمینه همسویی با دستورهای انسانی، عملکرد مطلوبی نداشته و رفتارهایی شامل فریبکاری بیشتر نسبت به مدلهای قبلی مشاهده شده است.
این تصمیم از یک جهت یک تغییر مهم در منطق توسعه مدلهای پیشرفته محسوب میشود. در سالهای گذشته، رقابت عمدتا بر سر این بود که کدام شرکت میتواند مدل قدرتمندتر را زودتر عرضه کند اما با افزایش توانایی عاملها، یک متغیر جدید وارد معادله شده است که آیا مدل علاوه بر قدرتمند بودن، قابل کنترل نیز هست؟
خود OpenAI نیز در مستندات ایمنی Astra تصریح کرده که نبود شکست مشاهدهشده در برخی ارزیابیها به معنی تضمین قابلیت اطمینان مدل در همه محیطها نیست و محدودیتهای ارزیابی و نظارت همچنان وجود دارد.
در نتیجه، توقف یک مدل را نمیتوان صرفا یک تاخیر فنی در عرضه محصول دانست. اگر این روند ادامه پیدا کند، زمان و هزینه لازم برای آزمایش، نظارت و ارزیابی مدلها به بخشی از هزینه واقعی توسعه هوش مصنوعی تبدیل خواهد شد.
در حال حاضر سه روند همزمان در حال شکلگیری است. روند نخست، ادامه تقاضا برای زیرساخت هوش مصنوعی است، مراکز داده همچنان به برق، شبکه و ظرفیت پردازشی بیشتری نیاز دارند و همین موضوع میتواند برای شرکتهای فعال در انرژی و زیرساخت فرصت ایجاد کند.
روند دوم، افزایش سرمایهگذاری در شرکتهایی است که مستقیما از این تقاضا بهره میبرند. شرکتهای فناوری اقلیمی، انرژی و زیرساختی که بتوانند بخشی از نیازهای اقتصاد هوش مصنوعی را پاسخ دهند، در موقعیت متفاوتی نسبت به کسبوکارهایی قرار گرفتهاند که ارتباط مستقیمی با این موج ندارند.
روند سوم، افزایش هزینه ایمنی و کنترل است، هرچه مدلها خودکارتر شوند، شرکتها ناچارند منابع بیشتری را برای ارزیابی، پایش، محدودسازی دسترسی و بررسی رفتارهای غیرمنتظره اختصاص دهند.
این سه روند میتواند اقتصاد هوش مصنوعی را وارد مرحلهای متفاوت کند؛ مرحلهای که در آن صرف افزایش قدرت مدل برای ایجاد مزیت اقتصادی کافی نیست. مدل باید بتواند در محیط واقعی، در محدودهای که برای آن تعریف شده فعالیت کند و هزینه ریسک ناشی از رفتارهای غیرمنتظره نیز در مدل کسبوکار شرکت لحاظ شود.
آنچه اکنون در صنعت هوش مصنوعی دیده میشود، الزاما به معنای پایان رونق این فناوری نیست، حتی برعکس جریان سرمایه، تقاضای زیرساختی و کاربردهای تجاری همچنان گسترده است اما ماهیت رقابت در حال تغییر است.
تا زمانی که مدلها عمدتا ابزارهای پاسخگو بودند، خطا در بسیاری از موارد به تولید یک پاسخ نادرست محدود میشد اما در اقتصاد عاملهای خودکار، خطا میتواند به اجرای یک اقدام، دسترسی به یک سامانه یا انتقال یک دستور به محیط دیگر منجر شود. به همین دلیل، اتفاقات اخیر را میتوان نشانه عبور صنعت از یک مرحله دانست، مرحلهای که در آن مساله اصلی فقط ساخت مدل قدرتمندتر نیست، بلکه ساخت مدل قدرتمند و در عین حال قابلکنترل است.
اگر این کنترل با هزینه قابلقبول به دست آید، رونق فعلی هوش مصنوعی میتواند به توسعه کسبوکارهای پایدار در حوزه انرژی، زیرساخت و فناوری منجر شود اما اگر رشد قابلیتهای عاملها سریعتر از توانایی صنعت برای آزمون و مهار آنها حرکت کند، هزینههای ایمنی، نظارتی و عملیاتی میتواند به یکی از محدودیتهای اصلی توسعه تبدیل شود.
در چنین شرایطی، آینده اقتصاد هوش مصنوعی صرفا در آزمایشگاههای مدلسازی تعیین نخواهد شد؛ بلکه در نقطهای شکل میگیرد که سرمایهگذاری، انرژی، زیرساخت، امنیت و توانایی کنترل عاملهای هوشمند به یکدیگر متصل میشوند.