Scary Intelligence | هوش ترسناک

در گفت و گوی این هفته، به سراغ مساله ی اعتماد میریم. از تعاریف مختلف اعتماد شروع می کنیم، و بررسی می کنیم که هوش مصنوعی چه نقشی در بحران کنونی اعتماد در جهان داره. در ادامه، صحبتمون کشیده میشه به مسایل بنیادی تری مثل مخمصه های اخلاقی هوش مصنوعی بدن مند، مساله ی مبنایابی نمادها، و بحث شیرین و نگران کننده ی توهم های هوش مصنوعی!آیا توهم های هوش مصنوعی چیزی هستند که با کمی پیشرفت تکنولوژیک از بین خواهند رفت، یا آیا بخشی جدایی ناپذیر از هوش مصنوعی خواهند ماند؟

پس از مدتی وقفه به دلیل شرایط پیش آمده در میهن عزیزمون، پخش قسمت های برنامه رو که چندین ماه پیش ضبط شده بودند رو دوباره شروع می کنیم.در این قسمت، رضا، حمید، و احسان از مهاجرت ذهنی صحبت می کنن: از شروع ارتباطات مجازی از دوران چت های اینترنتی، تا امروز، و آینده ای که در اون ممکنه ماشین ها جایگزین های مطلوبی برای روابط عاطفی محسوب بشن. احسان آمارهای نگران کننده ای رو مطرح می کنه، و حمید از پیوند ماشین و انسان در سطح مغزی میگه، به طوری که ممکنه انسان و ماشین همراه با هم خواب ببینن، فکر کنن، و یکی بشن.این بحث، پرسش های فلسفی عمیقی رو در مورد هویت به پیش می کشه. به راستی، اگر انسان در ماشین کپی بشه، کدوم نسخه رو باید واقعی بدونیم؟ احسان دیدگاه های درک پارفیت، فیلسوف معاصر رو در این مورد بررسی می کنه.

این قسمت ویژه رو اختصاص دادیم به کاربردهای هوش مصنوعی در جنگ های امروزی. از این صحبت می کنیم که دولت ها از چه ابزارهای هوش مصنوعی در جنگ استفاده می کنن، و هوش مصنوعی چه تغییراتی در جنگ های امروزی ایجاد کرده.به خصوص، از ابزارهای ساخت شرکت پالانتیر (Palantir) نام بردیم. سایت این سیستم رو می تونین از اینجا ببینین.و قسمتی از پادکست The Rest is Classified که احسان بهش اشاره می کنه رو می تونین از اینجا تماشا کنین، یا به نسخه ی صوتی اون از اینجا گوش بدین.

در این قسمت، از روال عادی برنامه خارج میشیم تا از خیزش ایرانیان، خاموشی دیجیتال، پروپاگاند، و استفاده از هوش مصنوعی در این خیزش صحبت کنیم.

در خلاقیت هوش مصنوعی شکی نیست، اما آیا این خلاقیت با آنچه که خلاقیت انسان را شکل می دهد یکی است؟ آیا ویژگی هایی در خلاقیت انسانی هست که ماشین ها قادر به دسترسی به آن نباشند؟ و اگر پاسخ بله هست، ایا روزی خواهد رسید که هوش مصنوعی به خلاقیت انسانی دست پیدا کند؟ در این قسمت، رضا، حمید، احسان، و مهمان ویژه ی برنامه به این پرسش ها می پردازند.

در این قسمت هوش ترسناک، می پردازیم به جوانب مختلف رابطه ی هوش مصنوعی و سلامت روان. از این صحبت می کنیم که آیا پیشرفت ها در زمینه ی هوش مصنوعی مولد، باعث بهبود یا افول سلامت روان میشه. آیا روزی رو خواهیم دید که هوش مصنوعی بتونه نقش یک تراپیست رو ایفا کنه؟ و آیا هوش مصنوعی نسل آینده رو هوشمندتر می کنه یا به اصطلاح خودمانی، "خنگ تر"؟

این قسمت رو با صحبت از قوانین کپی رایت شروع می کنیم، و از دو دیدگاه متفاوت به اثرات هوش مصنوعی بر کار، ثروت، و آینده ی اقتصادی جهان نگاه می کنیم. به راستی، در نبرد کارل مارکس و ایلان ماسک، چه کسی پیروز میدان خواهد بود؟ آیا چندین مدل هوش مصنوعی بزرگ پاسخ گوی نیازهای آینده هستند، یا چند صد مدل تخصصی ولی کوچک؟

در این قسمت از هوش ترسناک، بحث رو کمی کلی تر می کنیم، و به مفاهیم پایه ای می پردازیم. مفهوم کار چیست؟ آیا هوش مصنوعی همه ی کارگرها رو جایگزین خواهد کرد؟ آیا این حبابی که همه از اون صحبت می کنن به راستی خواهد ترکید؟حمید، رضا، و احسان از منظرهای متفاوتی به این سوالات نگاه می کنن.لینک مقاله ی حباب هوش مصنوعی: اینجا کلیک کنید.

این قسمت رو اختصاص میدیم به اثر هوش مصنوعی بر آموزش و یادگیری. با این سوال شروع می کنیم که آیا هوش مصنوعی یادگیری رو آسون تر کرده یا نه. اما حمید خیلی زود به آینده ای نه چندان دور اشاره می کنه که شاید بتونیم مثل فیلم ماتریکس، با چند کلیک خلبانی هلیکوپتر یاد بگیریم!آیا در آینده اصلا نیاز به یادگیری خواهیم داشت؟ آیا چیزی که امروز از دانشگاه می شناسیم تغییرات اساسی خواهد کرد؟

در این قسمت، صحبت ها رو اختصاص میدیم به ابعاد مختلف واگذاری تفکر و تصمیم گیری به هوش مصنوعی. از استفاده ی هوش مصنوعی در جنگ و جنگ روانی میگیم، و از این که چرا ما اخبار جعلی رو به راحتی باور می کنیم. حمید از آینده ی دستگاه های هوش مصنوعی پوشیدنی میگه: دستگاه هایی فراتر از ساعت هوشمند، که با استفاده از هوش مصنوعی در تصمیم گیری ها به ما کمک می کنن. و احسان در ادامه از پیچیدگی های اخلاقی این تکنولوژی، و نظام ارزشی هوش مصنوعی صحبت می کنه.

در این قسمت، حمید به زبان ساده توضیح میده که چطور چندین ایجنت (مستشار) هوش مصنوعی می تونن در کنار همدیگه به اهدافی که ما میخوایم برسن. این توضیح باعث پرسش جالبی میشه: آیا میشه گفت که ما عقل سلیم رو به هوش مصنوعی واگذار کردیم؟ سوال بزرگ تر اینجاست که اگر هوش مصنوعی نمی فهمه، پس چطور این قدر فهمیده عمل می کنه؟و در ادامه، از رفاه ناشی از هوش مصنوعی و وابستگی به این تکنولوژی می گیم. به این فکر می کنیم که "خفاش بودن چگونه است"، و این که شخصیت هوش مصنوعی از کجا شکل می گیره.مقاله برای علاقه مندان (انگلیسی): https://www.jstor.org/stable/2183914و مقاله ی مورد اشاره در مورد شخصیت هوش مصنوعی (انگلیسی): https://arxiv.org/abs/2505.23796

برنامه رو با اخبار روز هوش مصنوعی شروع می کنیم. حمید از تاثیر هوش مصنوعی بر مشاغل آینده میگه، و اینکه سرمایه گذاری دولت ها در این مورد چطور ممکنه اختلاف های بینشون رو بیش از پیش زیاد کنه. یکی از اخبار افزایش تردید مردم به اخباری هست که می بینن. به بیان دیگه، به نظر میاد که این روزا هرچی می بینیم، اول می پرسیم چقدر احتمال داره که ساخته ی هوش مصنوعی باشه.و این خبر، بحث رو می بره به سوالات عمیق فلسفی: واقعیت چیه؟ حقیقت چیه؟ آیا اصلا چیزی به اسم واقعیت وجود داره؟ آیا واقعیت از انسان مستقله؟ آیا معنا و واقعیت به هم ارتباط دارن؟ چه چیز، چیز دیگر رو واقعی می کنه؟پرسش برای تغذیه ی ذهن:یک کوزه ی سفالی آب رو تجسم کنید. به نظر شما، چه چیز ذات اون کوزه هست؟ چه چیز کوزه رو کوزه می کنه؟ چیزی که مختص کوزه هست، چیه؟ آیا جنسشه؟ شکلش؟ چیزی که توش می ریزیم؟ کاربردش؟ یا چیز دیگه ای؟پاسخ هایدگر رو می تونین اینجا بخونین (انگلیسی)

شانزدهمین قسمت برنامه رو با یکی از کاربردهایی از هوش مصنوعی شروع می کنیم که احتمال داره به زودی بیشتر و بیشتر در زندگی روزمره باهاش مواجه بشیم: منشی ها و مدیر دفتر های هوش مصنوعی، که تمام مراحل اولیه ی مکالمه، تنظیم جلسات، و از این قبیل رو انجام میدن، و اونقدر واقعی به نظر میان که متوجه نمیشیم طرف مکالمه مون انسان نیست.خیلی زود بحث به حریم شخصی، حقوق مولف، و نکاتی کلیدی در استفاده از هوش مصنوعی برای ایجاد تصویر کشیده میشه، تا می بینیم که چطور هوش مصنوعی ممکنه ما رو به حضرت سلیمان مدرن تبدیل کنه!سوالاتی برای این قسمت و برنامه ی بعدقبل یا بعد از شنیدن برنامه، به دو سوال فکر کنید:- واقعا چرا دلفین ها کتاب نمی نویسن؟- اصلا واقعیت چیست؟لینک های مفید مربوط به این قسمت- مکالمه با دلفین ها- فراواقیت یا واقیت حاد

این قسمت رو با مثال هایی از استفاده ی هوش مصنوعی در زندگی روزانه شروع می کنیم، ولی صحبت ها خیلی زود به دروغ گویی ها و چاپلوسی های هوش مصنوی می رسه، و در نهایت به پدیده ای می رسیم که محققین بهش اسم "فسیل های دیجیتال" دادن.می تونین در مورد فسیل های دیجیتال اینجا بیشتر بخونین.و بخش هایی از تصاویری که رضا در موردش صحبت می کرد (دفترچه راهنمای گربه!) رو اینجا ببینید.

این قسمت رو با صحبت از "هایدی" شروع می کنیم: ابزاری مجهز به هوش مصنوعی، که به زودی کار نت برداری رو برای پزشک ها به عهده خواهد گرفت. بحث خیلی زود می رسه به ورود هوش مصنوعی به عرصه هایی که بر تمام زندگی ما اثر خواهد گذاشت.هوش مصنوعی و نظارت اجتماعی، و چطور این ترکیب منجر به خود-کنترلی و نفی آزادی و حریم شخصی میشه.هوش مصنوعی و کاپیتالیسم نئولیبرال، و فراموشی تمام ناگفته ها، سکوت ها، و نانوشته ها.و در نهایت، این قسمت رو با توضیحات مفصلی راجع به "مستشارها"، یا همون ایجنت ها، به اتمام می رسونیم.

در این قسمت مراحل آغازین ترکیب انسان و کامپیوتر رو مشاهده و بحث می کنیم. آیا ما به راستی داریم به سمت "تکینگی فناوری"، یا همون singularity حرکت می کنیم؟حمید از کمپانی جدیدی میگه که پیشرفت های شگرفی در زمینه ی بایو-کامپیوتینگ داشته. ترکیب سلول های زنده ی ما با کامپیوتر حرکت اولیه ای هست به سمت آینده ای که در اون مرز بین انسان و کامپیوتر کم رنگ تر و کم رنگ تر میشه. آیا می تونیم به چنین کمپانی هایی اعتماد کنیم؟

در ادامه ی صحبت های قسمت قبل، امروز حمید توضیحات مفصلی در مورد مستشارها یا همون ایجنت ها میده، و احسان بررسی می کنه که از منظر فلسفی، اصلا تکنولوژی یا عاملیت یعنی چی؟ صحبت های داغی بین حمید و احسان رد و بدل میشه، تا ببینیم آخر هوش مصنوعی آیا واقعا زایش مند هست، یا اینکه فقط کلمات رو خیلی مرتب کنار هم می چینه.

این قسمت آخرین قسمتی هست که در سال 2024 ضبط کردیم. بنابراین، برنامه رو با خلاصه ای از تغییرات در این سال شروع می کنیم، و نیم نگاهی میندازیم به آینده ی هوش مصنوعی. از اتمام داده های آموزش هوش مصنوعی میگیم، و در نهایت، به بحث مهم مستشارهای خودمختار می رسیم. آیا واقعا راهی برای مهار هوش مصنوعی وجود داره؟

حمید با یک سورپرایز وارد این قسمت میشه. از آزمایشی تجربی میگه که در طی اون ابزارهای هوش مصنوعی یاد می گیرند چطور بازی کنن، چطور همدیگه رو قانع کنن، و حتی چطور بقیه رو گول بزنن!

در این قسمت، حمید خلاصه ای تاریخی از تاثیرات تکنولوژی بر زندگی انسان رو بررسی می کنه، و بحث به سمت اثرات خاص هوش مصنوعی بر شغل و شغل یابی میره. احسان توضیح میده که سوگیری ها چطور وارد یک تکنولوژی میشن و کل یک صنعت رو سوگیر می کنن. و در نهایت، از این صحبت می کنیم که چرا باید احتمال نابودی زندگی بشر توسط هوش مصنوعی رو جدی بگیریم

در این قسمت به مسایل مختلفی می پردازیم. نگاهی می کنیم به کنترل سوسک با کامپیوتر!، برخی گندکاری های هوش مصنوعی، و اهمیت نظارت بر این تکنولوژی. حمید به زبان ساده توضیح میده که هوش مصنوعی چطور "یادگیری" می کنه، و احسان از داده هایی میگه که برای آموزش هوش مصنوعی استفاده میشه.

در این قسمت نگاهی می کنیم به نقش هوش مصنوعی در مطالعات جامعه شناسی، از جبرگرایی تکنولوژیک صحبت می کنیم، و به سراغ کاربردهای هنری هوش مصنوعی میریم. اگر هوش مصنوعی می تونه موسیقی تولید کنه، شعر بگه، داستان بنویسه، و نقاشی تولید کنه، آیا باید تعریفمون از مولف رو بازنگری کنیم؟

این قسمت رو با مثالی ملموس از کاربرد هوش مصنوعی در مشاغل تخصصی شروع می کنیم. از این صحبت می کنیم که آیا داورهای تنیس هنوز هم لازم هستند یا نه؟ به حریم شخصی افراد در برخوردشون با هوش مصنوعی می پردازیم، و در نهایت از این امکان می گیم که شاید روزی هوش مصنوعی با بدن انسان ترکیب بشه.

در بحث این قسمت نگاهی می کنیم به نقش کلان هوش مصنوعی در جوامع آینده. از استفاده های هوش مصنوعی برای مطالعه بر روی میلیون ها نفر می گیم، و خطرات هوش مصنوعی رو در مورد دستکاری و کنترل جوامع گوشزد می کنیم. نیم نگاهی هم به دقت پیش گویی های هوش مصنوعی میندازیم.

در این قسمت، بحث رو با نگاهی گذرا به برخی اخبار روز هوش مصنوعی شروع می کنیم، و در ادامه ی برنامه، کمی در هوش مصنوعی عمیق تر میشیم. آیا هوش مصنوعی توانایی دروغگویی داره؟ روند رشد هوش مصنوعی به چه سمتیه؟ حمید امسال رو سال غفلت نامگذاری می کنه، و احسان نگاهی فلسفی به هوش مصنوعی میندازه.

در ادامه ی صحبت های قسمت قبلی، حمید و احسان از برخی اثرات هوش مصنوعی بر مشاغل صحبت می کنند. حمید از امکان استفاده از هوش مصنوعی برای افزودن به توانایی های فیزیکی و ذهنی انسان میگه، و احسان از خطرات همگرایی ابزاری در "ابرهوش" های آینده حرف می زنه.

در این قسمت رضا با حمید و احسان در مورد تاثیرات هوش مصنوعی در زندگی روزمره صحبت می کنند. حمید، متخصص امنیت شبکه، گپی در مورد رمزارزها (کریپتو) می زنه، و احسان، استاد دانشگاه تکنولوژی کویینزلند، بهمون میگه که با هوش مصنوعی چطور میشه اخبار جعلی ساخت.

سلام! در این قسمت با گوینده ها و موضوع برنامه آشنا میشیم، و نیم نگاهی میندازیم به موضوعی که این روزها ذهن همه رو مشغول کرده: هوش مصنوعی، و این که آیا باید از اون بترسیم یا نه