جوان باور –  سجاد عابدی، کارشناس مسائل بین‌الملل با حضور در کافه خبر جوان باور، تاکید کرد: «بسیاری معتقدند که هوش مصنوعی در سال‌های آینده عامل انسانی را حذف خواهد کرد. به نظر من، این روند تا حد زیادی آغاز شده است. بسیاری از شرکت‌های بزرگ در تلاش هستند بروکراسی را از ساختارهای سازمانی خود حذف کنند؛ زیرا هوش مصنوعی می‌تواند بسیاری از فرایندها را تسهیل کرده و مراحل مختلف را به‌صورت لایه‌به‌لایه مدیریت کند.»

در ادامه بخشی از مصاحبه رحمن قهرمان‌پور با جوان باور را می‌خوانید؛

کشوری که اطلاعات بیشتری داشته باشد، دست برتر جنگ‌های آینده را خواهد داشت

ببینید، همان‌گونه که عرض کردم، هوش مصنوعی در حال اثرگذاری بر مفاهیمی همچون انسانیت، حریم خصوصی و حتی ساختارهای دموکراتیک در جهان است.

هوش مصنوعی یا Artificial Intelligence که امروز در ادبیات بین‌المللی از آن یاد می‌شود، فضایی است که بر اساس داده‌هایی که در اختیار آن قرار می‌گیرد، برای شما الگوریتم طراحی می‌کند. بر پایه یک نقشه راه (Roadmap)، یک جدول زمانی (Timeline) و یک برنامه زمان‌بندی مشخص، مسیر حرکت را تعیین می‌کند و در قالب گام‌های متوالی، هر آنچه را که از آن بخواهید، طراحی و ارائه می‌دهد.

اینکه آیا می‌تواند موازنه قدرت را برهم بزند یا خیر، به نظر من پاسخ کاملاً مثبت است. معتقدم در عصر کنونی روابط بین‌الملل و در فضایی که امروز بر جهان حاکم است، دو مؤلفه اساسی وجود دارد. نخست اینکه ما در عصر رسانه زندگی می‌کنیم و دوم اینکه جنگ امروز، بیش از هر چیز، جنگ اطلاعات است.

کشورهای قدرتمند، کشورهایی هستند که اطلاعات بیشتری در اختیار دارند. هرچه حجم اطلاعات یک کشور بیشتر باشد، قدرت تحلیل و تصمیم‌سازی آن نیز افزایش پیدا می‌کند. زمانی که اطلاعات گسترده‌ای در اختیار باشد، بر پایه فناوری‌های پیشرفته‌ای که طراحی شده‌اند، فرایندهای داده‌کاوی (Data Mining) شکل می‌گیرد و از دل این داده‌کاوی‌ها الگوریتم‌هایی استخراج می‌شود که مبنای تصمیم‌گیری قرار می‌گیرند.

هوش مصنوعی بر اساس داده‌ها، مسیر رسیدن به هدف را طراحی می‌کند

استفاده از این الگوریتم‌ها، چه در داده‌های ساختاریافته و چه در داده‌های غیرساختاریافته، بستگی به حوزه و دسته‌بندی مورد استفاده دارد. اما در نهایت، هدفی که طراحی می‌کنید، بر بستر هوش مصنوعی و بر مبنای اطلاعاتی که در اختیار سیستم قرار می‌گیرد، بسیار سریع‌تر، دقیق‌تر و هدفمندتر قابل دستیابی خواهد بود.

این هدف می‌تواند یک هدف انسانی باشد، می‌تواند یک عملیات نظامی باشد و حتی می‌تواند تغییر یک ساختار سیاسی یا اجتماعی را دنبال کند؛ همان‌گونه که در ونزوئلا و برخی کشورهای دیگر شاهد چنین روندهایی بوده‌ایم.

نکته مهم این است که ما معمولاً هوش مصنوعی را به دو یا سه سال اخیر نسبت می‌دهیم، در حالی که اگر از من سؤال شود، خواهم گفت که هوش مصنوعی مربوط به ۱۵ یا حتی ۲۰ سال پیش است. همان‌طور که عرض کردم، شرکتی مانند پلنتیر از سال ۲۰۰۳ فعالیت خود را آغاز کرده است. این یعنی آمریکا از بیش از دو دهه قبل در حال کار روی ساختارهای هوش مصنوعی، تحلیل داده و الگوریتم‌های تصمیم‌ساز بوده است.

حتی برخی رخدادهایی که در لیبی اتفاق افتاد نیز از نگاه من قابل پیوند با فناوری‌های نوین و زیرساخت‌های مبتنی بر هوش مصنوعی است. بنابراین، ما با پدیده‌ای مواجه نیستیم که صرفاً محصول چند سال اخیر باشد؛ بلکه با روندی مواجه هستیم که سال‌ها برای آن سرمایه‌گذاری، برنامه‌ریزی و زیرساخت‌سازی شده است.

برای فاجعه مدرسه میناب دو سناریو مطرح است…

ببینید، اعتقاد من بر علم و ساینس است. به نظر من، علوم مهندسی، ریاضیات و سامانه‌های مبتنی بر فناوری اصولاً اشتباه نمی‌کنند؛ مگر آنکه داده‌هایی که به آن‌ها داده می‌شود، نادرست باشد.

یعنی اگر ورودی‌ها و داده‌های اولیه اشتباه باشند، طبیعتاً خروجی نیز دچار خطا خواهد شد و محاسبات نادرستی ارائه خواهد شد. بنابراین، در وهله نخست باید منشأ داده‌ها و کیفیت اطلاعات ورودی مورد بررسی قرار گیرد.

پیش از ورود به این بحث، لازم است به نکته دیگری نیز اشاره کنم. بسیاری معتقدند که هوش مصنوعی در سال‌های آینده عامل انسانی را حذف خواهد کرد. به نظر من، این روند تا حد زیادی آغاز شده است. بسیاری از شرکت‌های بزرگ در تلاش هستند بروکراسی را از ساختارهای سازمانی خود حذف کنند؛ زیرا هوش مصنوعی می‌تواند بسیاری از فرایندها را تسهیل کرده و مراحل مختلف را به‌صورت لایه‌به‌لایه مدیریت کند.

اما درباره حادثه مدرسه میناب، به نظر من دو سناریو قابل طرح است.

سناریوی نخست، احتمال وقوع خطای انسانی در داخل سیستم است. بدون تعارف، همواره این احتمال وجود دارد که در فرایند تحلیل، پردازش یا انتقال اطلاعات، خطایی از سوی عامل انسانی رخ داده باشد.

سناریوی دوم، همان چیزی است که برخی رسانه‌ها و خبرگزاری‌های آمریکایی مطرح کرده‌اند؛ اینکه داده‌های نادرست به سامانه هوش مصنوعی یا همان موتور هشدار و موتور عملیاتی آمریکا داده شده و همین مسئله موجب شده آن هدف مورد حمله قرار گیرد.

بعید است آمریکا بر مبنای اطلاعات سوخته عملیات انجام دهد

در این صورت، مشکل نه از خود هوش مصنوعی، بلکه از کیفیت و صحت اطلاعاتی است که در اختیار آن قرار گرفته است. هوش مصنوعی بر اساس داده‌هایی که دریافت می‌کند تصمیم می‌گیرد و اگر آن داده‌ها نادرست باشند، خروجی نیز دچار اشکال خواهد شد.

البته باید این موضوع را نیز در نظر گرفت که در بحث جمع‌آوری اطلاعات و داده‌ها، این اطلاعات تا چه اندازه به‌روز بوده‌اند. شخصاً بعید می‌دانم که در شرایط کنونی و در عصر فناوری‌های پیشرفته، کشوری مانند ایالات متحده آمریکا بخواهد بر اساس اطلاعات و داده‌های سوخته، قدیمی یا فاقد اعتبار اقدام به طراحی عملیات و تصمیم‌گیری کند.

به همین دلیل، اگر چنین حادثه‌ای رخ داده باشد، باید بررسی شود که آیا خطا در مرحله جمع‌آوری اطلاعات اتفاق افتاده، در مرحله تحلیل داده‌ها رخ داده یا اساساً اطلاعات نادرستی به سامانه منتقل شده است.

در مجموع، من معتقدم که برای قضاوت درباره چنین رخدادهایی باید با احتیاط برخورد کرد. نمی‌توان هر خطای عملیاتی را صرفاً به هوش مصنوعی نسبت داد و از سوی دیگر نیز نمی‌توان نقش این سامانه‌ها را در تصمیم‌گیری‌های نظامی نادیده گرفت. آنچه اهمیت دارد، کیفیت داده‌های ورودی، نحوه پردازش اطلاعات و میزان نظارت انسانی بر تصمیمات نهایی است. نکته اول همین است. نکته دوم اینکه در بحث جمع‌آوری اطلاعات، ما با دو بخش مواجه هستیم؛ یکی میزان دسترسی و دیگری میزان اعتماد.

یعنی زمانی که داده‌ای جمع‌آوری می‌شود، فردی که پشت این میز نشسته است دو موضوع را بررسی می‌کند؛ نخست اینکه فردی که این داده را ارائه کرده، تا چه اندازه به اطلاعات دسترسی داشته است و دوم اینکه این دسترسی بر چه مبنایی و با چه سطحی از اعتماد در آن سازمان، نهاد یا ساختار شکل گرفته است.

هر خطای الگوریتمی ریشه در خطای داده‌ها دارد

صرفاً بر اساس اطلاعات میدانی نیست که داده‌ها به هوش مصنوعی داده می‌شوند تا گفته شود «این الگوریتم را برای من طراحی کن». اتفاقاً یکی از ساختارهای جذاب و مهم هوش مصنوعی این است که وقتی حجم عظیمی از اطلاعات میدانی در اختیار آن قرار می‌گیرد، بر اساس داده‌های گذشته اقدام به آینده‌نگری می‌کند و از منظر آینده‌پژوهی، سناریوهای مختلف را پیش روی شما قرار می‌دهد.

فرض کنید در نقطه «الف» شرایطی خاص وجود دارد؛ هوش مصنوعی بر اساس داده‌ها، نقشه‌های هوایی، اطلاعات آواکس‌ها، داده‌های جمع‌آوری‌شده میدانی و سایر منابع اطلاعاتی، همه این موارد را در یک چرخه قرار می‌دهد و سپس بر مبنای آن، سناریوی مطلوب را به شما ارائه می‌کند.

در علم آینده‌پژوهی، اگر احتمال تحقق یک سناریو بیش از ۵۰ درصد باشد، آن سناریو قابل اتکا تلقی می‌شود.

اما در فضای فکری، تحلیلی و انسانی، با توجه به تجربه‌ای که ما در خردادماه ۱۴۰۴ و همچنین در اسفندماه ۱۴۰۴ کسب کردیم و با توجه به فاصله زمانی میان این رخدادها، از دیدگاه من به عنوان یک معلم ساده، امکان‌پذیر نیست که یک موتور پیشرفته هوش مصنوعی دچار چنین اشتباهی شود.

ما در اینجا درباره ریاضیات و محاسبات صحبت می‌کنیم و اگر بخواهیم واقع‌گرایانه نگاه کنیم، برای کشوری مانند ایالات متحده آمریکا بسیار بعید است که بخواهد بر مبنای اطلاعات سوخته و یا دریافت اطلاعات از مهره‌های سوخته، هدفی را مورد حمله قرار دهد.

۲۱۹/۴۲