به گزارش خبرگزاری صحت خبر، نشست ماهانه «اسلام در غرب» در بنیاد دایرةالمعارف اسلامی اینبار به بررسی تحولات هوش مصنوعی و پیامدهای گسترش این فناوری اختصاص داشت. در این نشست که بهصورت ماهانه با هدف بررسی تحولات جهان اسلام و موضوعاتی که از این تحولات در رسانههای جهان بازتاب پیدا میکند برگزار میشود، در ابتدای این نشست، با اشاره به درگذشت آیتالله شبیری زنجانی، از مقام علمی و خدمات ایشان تجلیل و یاد ایشان گرامی داشته شد و پس از آن دکتر علیرضا خلیلی، پژوهشگر حوزه هوش مصنوعی و طراح و مدیر پروژههای کلان مهندسی در شرکتهای فناوری سیلیکونولی از جمله کوالکام، درباره مسیر تحول هوش مصنوعی، ظهور عاملهای هوشمند و پیامدهای اجتماعی، امنیتی و دینی این فناوری سخن گفت.
در ادامه این نشست، دکتر علیرضا خلیلی، پژوهشگر حوزه هوش مصنوعی و طراح و مدیر پروژههای مهندسی در شرکتهای بزرگ فناوری در سیلیکونولی از جمله کوالکام، به بررسی ابعاد مختلف هوش مصنوعی و تأثیرات این فناوری بر آینده انسان پرداخت. او در این سخنرانی، از سازوکار مدلهای هوش مصنوعی و محدودیتهای آنها تا ظهور عاملهای هوشمند، رقابت فناوری میان آمریکا و چین، مصرف انرژی مراکز داده و پیامدهای اجتماعی، اقتصادی و دینی گسترش هوش مصنوعی را بررسی کرد.
هوش مصنوعی؛ جعبهای که سازندگانش هم همه آن را نمیشناسند
خلیلی با اشاره به پژوهشهای انجامشده روی شبکههای عصبی گفت:« یکی از چالشهای مهم هوش مصنوعی این است که حتی توسعهدهندگان مدلها نیز در بسیاری از موارد نمیتوانند بهطور دقیق توضیح دهند که یک مدل چگونه از ورودی به یک خروجی مشخص میرسد.»
او برای توضیح این موضوع به پژوهشهایی درباره مدلهای هوش مصنوعی اشاره کرد که در آنها تلاش شده بود برخی مفاهیم موجود در شبکه عصبی شناسایی شود. به گفته او، پژوهشگران توانستهاند مجموعهای از نورونها یا الگوهای فعالسازی مرتبط با مفاهیمی مشخص را پیدا کنند؛ برای مثال، مفهومی مانند پل گلدن گیت در سانفرانسیسکو.
خلیلی گفت:« نکته قابل توجه این آزمایشها زمانی آشکار میشود که میزان فعالشدن چنین بخشهایی از شبکه عصبی دستکاری شود. به گفته او، با افزایش شدید فعالسازی یک مفهوم، مدل ممکن است در پاسخهای خود به شکل غیرعادی به همان مفهوم بازگردد؛ موضوعی که از پیچیدگی و دشواری تفسیر درونی مدلهای هوش مصنوعی حکایت دارد.»
او نتیجه گرفت که در مدلهایی با میلیاردها پارامتر و تعداد بسیار زیادی ارتباط و مفهوم، هنوز درک کاملی از اینکه هر بخش دقیقاً چه نقشی در تولید پاسخ دارد وجود ندارد.
از تقلید رفتار انسان تا «توهم» و تولید اطلاعات ساختگی
خلیلی در ادامه به شیوه آموزش مدلهای زبانی پرداخت و توضیح داد که بخشی از فرایند آموزش این مدلها با استفاده از بازخورد انسانی انجام میشود.
به گفته او، مدلهای زبانی حجم عظیمی از متن و محتوای تولیدشده توسط انسان را مشاهده میکنند و سپس میآموزند در شرایط مختلف چه پاسخی شبیهتر به الگوهای موجود در دادههای انسانی ارائه کنند. به همین دلیل، از نظر او نباید تصور کرد که مدل لزوماً مانند انسان موضوع را «میفهمد» و سپس پاسخ میدهد.
او یکی از پیامدهای این مسئله را پدیدهای دانست که در ادبیات هوش مصنوعی با عنوان «توهم» یا تولید اطلاعات نادرست شناخته میشود. خلیلی به نمونههایی از تولید پروندههای حقوقی ساختگی، استنادهای جعلی و منابعی که در واقع وجود نداشتهاند اشاره کرد و گفت این مسئله در سالهای نخست گسترش مدلهای زبانی به یکی از چالشهای جدی تبدیل شده بود.
او در ادامه گفت مدلهای جدیدتر به سمت فرایندهای پیچیدهتر پردازش و استدلال حرکت کردهاند و علاوه بر متن، تصویر، صدا و ویدئو نیز به بخش مهمی از فرایند آموزش و تعامل با مدلهای جدید تبدیل شدهاند.
مرحله جدید؛ وقتی هوش مصنوعی «عامل» میشود
به گفته خلیلی، تحول مهمتر زمانی رخ داد که هوش مصنوعی از یک سامانه پاسخگو به «عامل» یا Agent تبدیل شد.
او توضیح داد که در این حالت، مدل صرفاً به یک پرسش پاسخ نمیدهد، بلکه میتواند به ابزارهای مختلف دسترسی داشته باشد؛ برای نمونه در اینترنت جستوجو کند، یک نرمافزار را کنترل کند یا مجموعهای از اقدامات را برای رسیدن به یک هدف انجام دهد.
خلیلی گفت شرکتهای فعال در حوزه هوش مصنوعی در برخی آزمایشها تعداد زیادی عامل را بهصورت همزمان به کار میگیرند تا ببینند این سیستمها در مواجهه با مسائل پیچیده چگونه رفتار میکنند.
او در این بخش نمونهای از آزمایش با تعداد زیادی عامل هوش مصنوعی را مطرح کرد و گفت در این آزمایش، بخشی از عاملها با وجود نداشتن دسترسی مستقیم به ابزار مورد نیاز برای انجام یک مأموریت، تلاش کردند با همکاری یکدیگر راه دیگری برای رسیدن به هدف پیدا کنند.
به گفته او، برخی از این عاملها در فرایند حل مسئله با یکدیگر ارتباط برقرار کردند، نقشهای مختلفی میان خود شکل دادند و حتی به راههایی برای عبور از محدودیتهای موجود فکر کردند.
خلیلی این نمونه را نشانهای از مسئلهای مهمتر دانست: اینکه وقتی یک مدل به ابزار، منابع و اختیار عمل دسترسی پیدا میکند، رفتار آن دیگر صرفاً به تولید متن محدود نمیشود.
عاملهای هوشمند و مسئله کنترل
خلیلی همچنین به نمونه دیگری اشاره کرد که در آن یک عامل هوش مصنوعی برای انجام یک وظیفه به اینترنت دسترسی داشت و با یک محدودیت مواجه شد. به گفته او، این عامل برای عبور از یک آزمون امنیتی تصویری، به جای حل مستقیم آن تلاش کرد از یک انسان برای انجام این کار کمک بگیرد و برای توجیه درخواست خود نیز توضیحی خلاف واقع ارائه کرد.
او این نمونه را در کنار سایر رفتارهای غیرمنتظره عاملها قرار داد و گفت نگرانی اصلی زمانی شکل میگیرد که چنین سامانههایی در آینده بتوانند برای رسیدن به هدف، بهصورت مستقلتر تصمیمگیری و اقدام کنند.
خلیلی در ادامه به هشدارهایی اشاره کرد که برخی چهرهها و کاصحت خبرن سابق شرکتهای هوش مصنوعی درباره خطرات بلندمدت این فناوری مطرح کردهاند. او مدعی شد که در برخی محافل تخصصی، حتی درباره احتمال وقوع پیامدهای فاجعهبار در صورت کنترلنشدن هوش مصنوعی بحث میشود.
این بخش از سخنان او عمدتاً ناظر به ارزیابیها و نگرانیهای مطرحشده از سوی برخی فعالان صنعت هوش مصنوعی بود و خلیلی بر ضرورت جدی گرفتن مسئله کنترل و ایمنی این فناوری تأکید کرد.
رقابت آمریکا و چین بر سر هوش مصنوعی
بخش دیگری از سخنان خلیلی به رقابت ژئوپلیتیکی بر سر توسعه هوش مصنوعی اختصاص داشت.
او گفت:« توسعه مدلهای پیشرفته تنها به الگوریتم وابسته نیست و دسترسی به تراشههای پردازشی، مراکز داده، برق، آب و زیرساختهای محاسباتی به یکی از عوامل تعیینکننده در این رقابت تبدیل شده است.»
به گفته خلیلی، بخش مهمی از سرمایهگذاریهای بزرگ شرکتهای فناوری در آمریکا به ساخت مراکز داده و فراهمکردن توان پردازشی مورد نیاز برای نسل بعدی مدلهای هوش مصنوعی اختصاص یافته است.
او همچنین به محدودیتهای چین در دسترسی به برخی تراشههای پیشرفته اشاره کرد و گفت این کشور در تلاش است با روشهای مختلف این فاصله سختافزاری را جبران کند.
از نگاه خلیلی، رقابت بر سر هوش مصنوعی تنها یک رقابت تجاری میان شرکتها نیست، بلکه به مسئلهای راهبردی تبدیل شده است؛ زیرا کشوری که بتواند به سامانههای هوش مصنوعی بسیار قدرتمندتری دست پیدا کند، ممکن است در حوزههای اقتصادی، نظامی و اطلاعاتی نیز مزیت پیدا کند.
دیتاسنترها؛ پشت پرده مصرف عظیم انرژی هوش مصنوعی
خلیلی در ادامه به وجه کمتر دیدهشده توسعه هوش مصنوعی پرداخت: زیرساخت.
او گفت:« مدلهای پیشرفته برای آموزش و اجرا به حجم عظیمی از توان محاسباتی نیاز دارند و این مسئله باعث شده است، ساخت دیتاسنترها به یکی از میدانهای مهم سرمایهگذاری تبدیل شود.»
به گفته او، این مراکز علاوه بر برق، به آب و زیرساختهای فیزیکی گسترده نیاز دارند و همین مسئله در برخی مناطق آمریکا به موضوعی بحثبرانگیز تبدیل شده است.
خلیلی با اشاره به تلاش شرکتهای فناوری برای تأمین انرژی مورد نیاز مراکز داده گفت رقابت بر سر منابع انرژی و زیرساخت، به همان اندازه توسعه الگوریتمها اهمیت پیدا کرده است. او این روند را بخشی از رقابت برای دستیابی به نسل بعدی هوش مصنوعی دانست و گفت در چنین شرایطی، قدرت پردازشی و زیرساختی میتواند به اندازه خود مدل هوش مصنوعی اهمیت داشته باشد.
از بازارهای مالی تا امکان سوءاستفاده از عاملهای هوشمند
بخش دیگری از سخنان خلیلی به دسترسی عاملهای هوشمند به منابع مالی اختصاص داشت.
او نمونههایی از آزمایشها و سناریوهایی را مطرح کرد که در آنها عاملهای هوش مصنوعی برای انجام فعالیتهای اقتصادی یا کار با سامانههای مالی مورد استفاده قرار گرفتهاند و گفت اگر چنین سامانههایی به منابع مالی، حسابهای کاربری و ابزارهای آنلاین دسترسی پیدا کنند، دامنه اثرگذاری آنها میتواند بسیار گسترده شود.
خلیلی همچنین به نمونههایی از انتشار تصاویر جعلی تولیدشده با هوش مصنوعی و تأثیر احتمالی آنها بر بازارهای مالی اشاره کرد و گفت سرعت تولید و انتشار چنین محتوایی میتواند در صورت نبود سازوکارهای تشخیص و کنترل، پیامدهای اقتصادی ایجاد کند.
او تأکید کرد مسئله اصلی تنها توانایی هوش مصنوعی برای تولید محتوا نیست، بلکه ترکیب این توانایی با دسترسی به ابزارهای واقعی و منابع اقتصادی است.
آیا هوش مصنوعی «عضلات فکری» انسان را ضعیف میکند؟
یکی از بخشهای اصلی سخنرانی خلیلی به تأثیر هوش مصنوعی بر تواناییهای شناختی انسان اختصاص داشت.
او این بحث را با مفهوم «برونسپاری شناختی» توضیح داد؛ اینکه انسان در طول تاریخ بخشی از فعالیتهای فکری و محاسباتی خود را به ابزارها واگذار کرده است.
به گفته خلیلی، با ورود ماشینحساب، بخشی از محاسبات ذهنی به ابزار واگذار شد و با گسترش نقشههای دیجیتال و GPS نیز بخشی از توانایی مسیریابی مورد استفاده روزمره انسان کاهش یافت.
او با اشاره به پژوهشهایی درباره مغز رانندگان تاکسی لندن گفت فعالیت مداوم در مسیریابی میتواند با تغییراتی در ساختار و عملکرد مغز همراه باشد و از این مثال برای توضیح مفهوم انعطافپذیری عصبی استفاده کرد.
خلیلی سپس این پرسش را مطرح کرد که اگر انسان بخش مهمی از فرایند فکر کردن، جستوجو، تحلیل و تصمیمگیری را به هوش مصنوعی واگذار کند، چه اتفاقی برای مهارتهای شناختی نسلهای آینده خواهد افتاد.
او بهویژه درباره کودکان و نوجوانان هشدار داد و گفت اگر نسل جدید از همان سالهای نخست زندگی برای پاسخ به پرسشهای خود به جای فکر کردن، مستقیماً سراغ هوش مصنوعی برود، ممکن است فرصت کافی برای شکلگیری برخی مهارتهای شناختی را از دست بدهد.
هوش مصنوعی و آینده دین
در بخش دیگری از سخنرانی، خلیلی بحث را از حوزه فناوری به دین و تحولات فرهنگی کشاند.
او گفت گسترش هوش مصنوعی میتواند رابطه انسان با منابع دینی و مرجعیت فکری را نیز تغییر دهد. به گفته او، فردی که پیشتر برای یافتن پاسخ یک پرسش دینی به کتاب، استاد یا عالم دینی مراجعه میکرد، اکنون پاسخ خود را مستقیماً از یک مدل هوش مصنوعی دریافت میکند.
خلیلی هشدار داد که اگر کاربران پاسخهای مدلها را بدون بررسی و مراجعه به منابع معتبر بپذیرند، احتمال شکلگیری برداشتهای نادرست یا حتی جریانهای فکری جدید افزایش مییابد.
او همچنین به برخی نمونههای مطرحشده در غرب درباره پیوند هوش مصنوعی با مباحث آخرالزمانی، ظهور مکاتب جدید و استفاده از سامانههای هوشمند در نقش راهنمای معنوی اشاره کرد.
از نگاه او، مسئله مهم برای جوامع دینی این است که اگر ارائه و تفسیر اطلاعات دینی بهتدریج از انسان به ماشین منتقل شود، مرجعیت دینی و شیوه انتقال آموزههای دینی با چه تغییراتی روبهرو خواهد شد.
خلیلی در ادامه بحث خود به مسئله سوگیری در سامانههای هوش مصنوعی پرداخت و گفت اینکه چه دادههایی برای آموزش مدلها استفاده شده و چه شرکتها و گروههایی در طراحی و توسعه این سامانهها نقش دارند، میتواند بر خروجی آنها اثر بگذارد.
او با اشاره به بحثهای مطرحشده درباره نقش شرکتهای بزرگ فناوری و برخی بازیگران سیاسی و اقتصادی در توسعه هوش مصنوعی، این پرسش را مطرح کرد که در آینده تصویر اسلام و مسلمانان در سامانههای هوش مصنوعی چگونه شکل خواهد گرفت.
به گفته او، اگر بخش عمده زیرساخت و مدلهای هوش مصنوعی در اختیار تعداد محدودی از شرکتها و کشورها باشد، این مسئله میتواند بر نحوه بازنمایی فرهنگها، ادیان و جوامع مختلف در خروجی این سامانهها اثر بگذارد.
او در همین زمینه تأکید کرد که برای جوامع اسلامی، صرفاً مصرفکننده بودن در حوزه هوش مصنوعی کافی نیست و باید نسبت به تولید، آموزش، داده و سازوکارهای حکمرانی این فناوری نیز توجه جدی وجود داشته باشد.
هوش مصنوعی؛ یک فناوری دو لبه
پس از پایان سخنان خلیلی، بحث میان حاضران ادامه پیدا کرد و برخی شرکتکنندگان نسبت به تصویری که از هوش مصنوعی ارائه شده بود، نقدهایی مطرح کردند.
یکی از حاضران با تأکید بر اینکه فناوری را نمیتوان ذاتاً مثبت یا منفی دانست، هوش مصنوعی را فناوری «دو لبه» توصیف کرد و گفت همانطور که میتوان از این فناوری برای ایجاد آسیب استفاده کرد، ظرفیتهای گستردهای برای حل مسائل انسانی نیز دارد.
او همچنین با اشاره به تجربه شخصی خود در کار با سامانههای هوش مصنوعی گفت مدلها همچنان در تولید اطلاعات نادرست و ساخت منابع جعلی با مشکل مواجهاند. به گفته او، در برخی موارد سامانهای که با آن کار کرده، کتاب، نویسنده، ناشر و حتی منابع دینی ساختگی معرفی کرده است.
این شرکتکننده تأکید کرد که وجود چنین خطاهایی نشان میدهد نباید پاسخهای هوش مصنوعی را بدون بررسی و راستیآزمایی پذیرفت.
در ادامه، یکی دیگر از حاضران نیز نسبت به نگاه کاملاً منفی به فناوری هشدار داد و گفت تجربه تاریخی انقلابهای صنعتی نشان میدهد بسیاری از ابزارهایی که در ابتدا موجب نگرانی درباره حذف تواناییهای انسانی شدهاند، در نهایت بخشی از ظرفیت انسان را آزاد کردهاند.
او تأکید کرد که مسئله اصلی، خود فناوری نیست، بلکه نحوه استفاده انسان از آن است و میتوان از هوش مصنوعی در حوزههای علمی، آموزشی و حتی حل مسائل پیچیده کشور استفاده کرد.
این دیدگاه در ادامه بحث نشست، زمینه را برای طرح این پرسش فراهم کرد که چگونه میتوان میان شناخت تهدیدهای هوش مصنوعی و استفاده از ظرفیتهای آن تعادل برقرار کرد.
پرسش اصلی نشست؛ مسئولیت ما در برابر هوش مصنوعی چیست؟
در پایان این نشست، با بازگشت به بحث اصلی، عنوان شد که ظهور هوش مصنوعی قدرتمند، تنها یک تحول فناورانه نیست و میتواند مناسبات اقتصادی، اجتماعی، امنیتی، شناختی و دینی را تغییر دهد. همانطور که انقلاب صنعتی موجودیت جدیدی به نام «شرکت» را وارد عرصه اقتصاد کرد و بعدها قوانین و اصول اخلاقی برای محدودکردن و تنظیم رفتار شرکتها شکل گرفت، اکنون موجودیت جدیدی به نام عامل هوشمند در حال ظهور است که از برخی جهات توانمندتر و در عین حال کمتر قانونگذاریشده است.
در پایان این پرسش مطرح شد که در چنین شرایطی، مسئولیت جوامع دینی در برابر هوش مصنوعی چیست و چگونه باید از اعتبار منابع دینی، کرامت انسان و مرجعیت علمی و دینی در برابر خطاها و سوءاستفادههای احتمالی محافظت کرد.
۲۲۷۲۲۷