3 دقیقه.
ناگفتنی ها – عدم خلاقیت هوش مصنوعی و مدلهای زبانی
***
متن پیادهشده فایل صوتی:(توسط هوش مصنوعیGemini Google)
سلام خدمت دوستان. رسول شهراد هستم. میخوام در این گفتار کوتاه در مورد اینکه چرا هوش مصنوعی و مدلهای زبانی خلاق نیستند صحبت بکنم و مفهومش رو در واقع با استفاده از یکی از چیزهایی که همه میدونیم و خیلی ساده هست، به عنوان مفهوم متوسط ریاضی یا Average براتون توضیح بدم.
ببینید، فرض بکنید ما ۱۰۰ تا عدد داریم و متوسط اینها رو به صورت ریاضی حساب میکنیم و اعلام میکنیم. به نظر میرسه که ما میدونیم این عددها چند هستند، ولی بسیاری از جزئیات حذف میشه.
یک مدل زبانی که در واقع این روزها خیلی پرکاربرد شده و به نظر هوشمند میرسه، در واقع چیزی نیست جز یک متوسط ریاضی.
مدلهای زبانی اینطوری کار میکنند که برای هر کلمه میرن به منابع خودشون نگاه میکنند و حدس میزنند که کلمه بعدی به صورت آماری و به صورت متوسط ریاضی چه چیزی خواهد بود و اون رو میذارند روی کلمه بعدی. یعنی در واقع متوسط تمام متنهایی رو که بهش داده شده رو در واقع به شما میده. پس مدل زبانی هوش مصنوعی چیزی نیست جز متوسط آنچه به خوردش داده شده و آنچه که به خورد مدلهای زبانی داده شده، در واقع همون منابعی بوده که روی اینترنت وجود داشته.
پس شما زمانی که با هوش مصنوعی صحبت میکنید و فکر میکنید که دارای یک هوش و دارای یک در واقع اصالتی هست، اصلا اینطور نیست. این در واقع یکجور متوسطگیری ذهن جمعی بوده که تازه ذهن جمعی که روی اینترنت اومده، نه ذهن جمعی کلی.
ببینید ما یک ذهن جمعی کلی داریم که در واقع کل ذهن بشر هست و یک ذهن جمعی که روی اینترنت اومده، یک قسمت کوچیکی از اون اومده روی اینترنت که خودش دارای جهتگیریها و سوگیریها و بایاسهای خیلی واضح و زیادی هست. حالا ما متوسط اون رو که وقتی بگیریم میشه مدل زبانی هوش مصنوعی. و اینقدر اعتبار دادن و اینقدر در واقع تاکید کردن روی هوش مصنوعی یکجور فالو کردن Average یا یکجور دنبال کردن گله است.
ببینید، یک گله گوسفند تصور بکنید. اینها هر کدوم ممکن هست یه سمتی برن، ولی به صورت جمعی به یه سمت متوسطی حرکت میکنند. اگر که ما هوش مصنوعی رو هم اینقدر بهش تاکید بکنیم، در واقع داریم به سمت اون متوسط حرکت میکنیم و این بسیار خطرناک هستش.
انسانها اصولا دو جور هستند: انسانهایی که خب خیلی در واقع دنبال گله میرن و من بهشون میگم اینها ضریب گلهشون بالاست، متوسط افراد اطراف خودشون رو در واقع نگاه میکنند و به اون سمت حرکت میکنند. و یک تعداد محدودی از انسانها هستند که انسانهای خلاقن. اینها کسایی هستند که گله رو دنبال نمیکنند، اون چیزی که متوسط ذهن جامعهشون هست رو دنبال نمیکنند. اینها در واقع میرن به مبدأ خلاقیت که درونشون هست و یک چیز کاملا جدید و خلاقانه رو از اونجا که در مبدأ خلاقیت هستش رو استخراج میکنند و میارن بیرون.
پس ما هم برای اینکه خلاق باشیم، استفاده کردن از هوش مصنوعی برای بازی، برای یکجوری Average گرفتن خوبه، ولی اینکه شما اون رو ملاک اصلی بدونید و به سمت اون حرکت بکنید و ذهنتون رو در واقع بدید دست هوش مصنوعی، این کار کاملا اشتباهه. انسانهای خلاق هیچوقت از Average استفاده نمیکنند. اونها در واقع مفاهیم رو خودشون خلق میکنند از طریق خلاقیت ذهنی که دارند و اونها متوسط رو جابهجا میکنند. اونها دنبال متوسط نمیرن، اینها افرادی هستند که به گله جهت میدن، حرکت رو تعیین میکنند که گله کجا بره.
و من با این مثال ساده میخواستم توضیح بدم که در واقع مدل زبانی چی هست و چرا این به نظر میرسه که هوشمندانه است و در واقع اصلش اصلا هوشمندانه نیست و یک متوسطگیری ساده است. و به عنوان یه چیزی که حالا یه معیاری ما میتوانیم استفاده بکنیم، درست مثل مفهوم متوسط ریاضی، خیلی جاها کاربرد داره، ولی یادمون باشه که ما وقتی که ۱۰۰ تا عدد رو متوسطگیری کردیم و مثلا گفتیم متوسط این ۱۰۰ تا عدد مثلا ۲۵۲۳ هستش، این هیچ اطلاعات دقیق و کاملی به ما نمیده. فقط یه در واقع یک برداشت سطحی میده از اینکه متوسط ذهن جمعی بشر چی بوده تا الان و کجاهاش ایراد داره، چه چیزهایی دیده نشده و به کدوم سمت باید حرکت بکنه.
این رو به نظرم لازم بود که بگم، چون الان در بهبوهه تب در واقع هوش مصنوعی هستیم و آدمها خیلی روی هوش مصنوعی حساب میکنند و این باعث میشه که ما بشر به صورت کورکورانه و کودنگونه دوباره به یک سمت متوسطی که حالا شاید درست هم نباشه حرکت بکنه و بسیار خطرناکه، بسیار خطرناکه این تفکر گلهای.
ممنون که گوش دادید. امیدوارم که براتون جدید و مفید بوده باشه. اگر اینطور بود خوشحال میشم که به من کمک بکنید برای پخش بیشتر این مفاهیم.
خدانگهدار.
