صفحه اصلي | فهرست مقالات | مطالب جديد | خبرنامه | نقشه سايت | طراحي وب | جستجو | نسخه جديد سايت

صفحه اصلي | فهرست مقالات | مطالب جديد

 
بخش ویژه

هک رشد

تکنیک های توسعه و رشد سریع کسب و کار و استارتاپ ها



کفش پاشنه بلند ارزان

کفش پاشنه بلند ارزان ، خرید کفش پاشنه بلند ارزان ، خرید اینترنتی کفش پاشنه بلند ارزان ، فروشگاه کفش پاشنه بلند ارزان، فروشگاه اینترنتی کفش پاشنه بلند ارزان،

مدانیسا

لباس شب مدانيسا ، مانتو مدنيسا ، تونيك مدانيسا ، لباس سايز بزرگ مدانيسا ، مودانيسا ، لباس زنانه مدانيسا ، برند مدانيسا

دسته ها

  • هک رشد هکر رشد استارتاپ
  • ایمنی صنعتی
  • شش سیگما
  • شبکه های هوشمند توزیع برق
  • فیزیک
  • انرژی های تجدیدپذیر (نو )
  • نرم افزار مطلب Matlab
  • مهندسی کامپیوتر
  • متفرقه
  • ماشین - اخبار
  • طراحی سایت و سئو
  • ماشین - معرفی شرکتها
  • ماشین - معرفی ماشين سازان
  • ماشین - معرفی ماشين آْلات
  • برق-دانش آموزان
  • برق-مهندسی پزشکی
  • برق-فناوری اطلاعات
  • برق-مخابرات
  • برق-کنترل
  • برق-قدرت
  • برق-اتوماسیون
  • برق-الکترونیک
  • برق-عمومی
  • برق - هوش مصنوعی
  • ارتباط با صنعت2
  • سايت هاي مرتبط
  • احمد زيني هكر رشد
  • هك رشد
  • فيلدباس و اتوماسيون
  • شبكه فيزيك هوپا
  • كارگاه هواشناسي
  • مهندسي برق
  • مجله در مورد سنسورها
  • www.control.com
  • temperatures.com
  • مجله سلامت و زيبايي

  • گفت‌وگو اختصاصي ماهنامه شبكه با دكتر كامبيز بديع‌ به مناسبت پنجاهمين سالگرد علم هوش مصنوعي (AI)

    گفت‌وگو اختصاصي ماهنامه شبكه با دكتر كامبيز بديع‌ به مناسبت پنجاهمين سالگرد علم هوش مصنوعي (AI)

    مردی که به قول خودش، تنها سه سال از هوش مصنوعی مسن‌تر است، به مناسبت پنجاهمین سالگرد شکل‌گیری هوش مصنوعی، در گفت‌وگویی مفصل با ماهنامه شبکه، از جنبه‌های گوناگون، زوایای این حوزه را می‌کاود.


    گفت‌وگو اختصاصي ماهنامه شبكه با دكتر كامبيز بديع‌ به مناسبت پنجاهمين سالگرد علم هوش مصنوعي (AI)

    هرمز پوررستمي
    ماهنامه شبكه - آذر ۱۳۸۵ شماره 71

    اشاره :

    مردي كه به قول خودش، تنها سه سال از هوش مصنوعي مسن‌تر است، به مناسبت پنجاهمين سالگرد شكل‌گيري هوش مصنوعي، در گفت‌وگويي مفصل با ماهنامه شبكه، از جنبه‌هاي گوناگون، زواياي اين حوزه را مي‌كاود.


    من فكر مي‌كنم، چون مي‌خواهم پيوند ايجاد كنم

    هنگامي كه براي پرونده <هوش مصنوعي> از اهالي اين حوزه، سراغ يكي از چهره‌هاي برجسته اين شاخه از علم  را مي‌گيريم كه بتوانيم با او به گفت‌وشنود بنشينيم، همه انگشت‌ها به جايي در انتهاي خيابان كارگر شمالي اشاره مي‌كنند؛ ساختمان مركزي <مركز تحقيقات مخابرات ايران>. در طبقه دوم ساختمان اصلي اين مركز، در نيمه‌هاي سالن بزرگي پر از اتاقك‌هاي شيشه‌اي، مردي نشسته است كه <هوش‌مصنوعي> برايش تنها شاخه‌اي از علوم كامپيوتري نيست. دكتر كامبيز بديع، مدير دپارتمان IT <مركز تحقيقات مخابرات ايران>، پژوهشگر و مدرس دانشگاه، مردي است كه عاشقانه با <هوش مصنوعي> زندگي مي‌كند. و اين عشق، از همان ابتداي ديدارمان خود را نشان مي‌دهد، پيش از آن‌كه ما اولين پرسشمان را مطرح كنيم او تاريخچه كوتاهي از چگونگي شكل‌گيري اين علم را بيان كرده است. به ياد مي‌آورد كه حدود چهارده سال پيش با مجله ريزپردازنده گفت‌وگويي داشته است درباره ماروين مينسكي. به ياد مي‌آورد كه در سال 1992، در سميناري در وين، كه خود نيز در آن مقاله ارائه داده بود، از پروفسور لطفي‌زاده پرسيده بود كه: <آيا اين توابع عضويتي كه شما فرض كرده‌ايد، مي‌توانند قابليت يادگيري از تجربه را داشته باشند؟> و:"پروفسور در جواب  بسيار صادقانه و خاشعانه گفته بود: Not yet"

    و اينگونه، مردي كه به قول خودش، تنها سه سال از هوش مصنوعي مسن‌تر است، به مناسبت پنجاهمين سالگرد شكل‌گيري هوش مصنوعي، در گفت‌وگويي مفصل، از جنبه‌هاي گوناگون، زواياي اين حوزه را مي‌كاود. به بعضي از سؤالا‌ت ما به طور مستقيم پاسخ نمي‌دهد، چرا كه معتقد است انديشمندان ديگري، در آن حوزه خاص، صلا‌حيت بيشتري دارند. گاه نيز به شيوه رفتار يك ديپلمات كار كشته، به نرمي، پرسشي را به ‌گونه‌اي تفسير يا تعبير مي‌كند كه بتواند آنگونه كه مي‌خواهد بدان پاسخ دهد.

    گفت‌وگو با دكتر بديع تجربه‌اي بود دلنشين و در عين حال دشوار. دلنشين بود از آن رو كه سرشار از دانش، نكات و حتي لطايف زباني بود. و دشوار از آن رو كه متأسفانه بسياري از اين نكات و لطايف، هم به دليل حفظ روند اصلي گفت‌وگو و هم به دليل دغدغه‌اي كه به لحاظ تعداد صفحات مصاحبه داشتيم، به ناچار حذف شد. از آن جمله مي‌توان به بحثي اشاره كرد كه دكتر بديع درباره وب مطرح مي‌نمايد و اظهار مي‌دارد  كه مطابق نظرات اساتيد زبانشناسي، در فارسي قديم، بفتن همان معناي بافتن را در بر دارد.  <ما مي‌توانيم به جاي Word Wide Web بگوييم وف جهان‌گستر؛ وف جهان‌گستر هم تركيب زيبايي  است؛ به نوعي وفا را هم در خودش دارد. شايد بد نباشد اينگونه فكر كنيم كه وقتي اجزا به هم بافته مي‌شوند، وفا معني پيدا مي‌كند؛ ولي وقتي به هم بافته نشوند، با اندك فشاري كه به يك جزء وارد مي‌كنيد، تمام اجزا  از هم گسيخته مي‌شود...>. و اينگونه نكات، آنقدر جذاب است كه ارزش آن را دارد كه خود موضوع گفت‌وگويي جداگانه باشد.

    در تمامي مراحل انجام و تنظيم اين گفت‌وگو از كمك‌هاي بي‌دريغ كيوان تيرداد كه خود دانش آموخته هوش‌مصنوعي است بهره بردم. پرهام ايزدپناه، همكار جوان و پرانرژي مجله نيز در اين‌ گفت‌وگو حضور داشت كه از هر دوي آن‌ها سپاسگزارم. همچنين از كمك‌هاي دوست و همكارم علي دريس‌زاده در انجام اين گفت‌گو تشكر مي‌كنم.

    در تهيه بيوگرافي دكتر بديع نيز، از شماره 169 ماهنامه <گزارش كامپيوتر>، نشريه انجمن انفورماتيك ايران، استفاده شده است.

    هرمز پوررستمي

    دكتر بديع: بحث هوش‌مصنوعي، براي اولين‌بار، در سال 1956 در كنفرانس دارت‌موث مطرح شد. ماروين مينسكي از دانشگاه MIT، جان مك‌كارتي از دانشگاه استنفورد و آلن نيوول، هربرت سايمون و آلن‌ شاء، هر سه از مركز تحقيقات شركت زيراكس (رند) پنج چهره معروف آن كنفرانس بودند. در اين كنفرانس به پيشنهاد ماروين مينسكي براي اولين‌بار به طور رسمي علم هوش مصنوعي اعلا‌م و پايه‌گذاري گشت. به همين دليل، مينسكيِ لهستاني‌الا‌صل را به عنوان پدر هوش مصنوعي مي‌شناسند. بعداً مركز تحقيقات رند (Rand Institute of Techology) به دانشگاه كارنگي ملون تبديل شد كه قوي‌ترين دپارتمان علوم شناختي دنيا را دارد

    ‌‌ وضعيت هوش مصنوعي در ايران را چگونه مي‌بينيد؟

    ‌ من پيشرفت اين شاخه از علم را در ايران خوب ارزيابي مي‌كنم. البته دليل آن را هم خواهم گفت. هوش مصنوعي يا به مفهوم گسترده‌تر و جديدتر آن، هوش رايانشي (Computatinal Intellgence)، موضوعي است كه در تمام ابعاد حل مسئله و تصميم‌گيري در دامنه‌هاي مختلف رسوخ كرده است. به تعبيري، وقتي دامنه‌هاي مختلف تصميم‌گيري در يك جامعه را، (مانند مديريت، بهداشت و درمان، صنعت، امنيت، آموزش و پژوهش، تغذيه، جنگل‌داري و ...)  كه هر كدام به نوبه خود با گستره وسيعي از مسائل مواجه هستند، در نظر بگيريد، عملا‌ً سازوكارAI و Computational Intelligence در همه اين حوزه‌ها رسوخ و نفوذ كرده است.
     

    در نهايت من فكر مي‌كنم مطالعه انسان شايد به كشف حقيقت انسان نرسد، ولي مي‌تواند واقعيات حقيقي جذابي را در مورد انسان و محيطش براي ما آشكار كند . يكي از نكات زيبا و جذابي كه در مطالعات مربوط به انسان به لحاظ مغز و سيستم ايمني و ... مي‌تواند وجود داشته باشد، اين است كه ما مي‌توانيم به برساخته‌هاي حقيقي جذابي برسيم كه ممكن است انسان‌گونه هم نباشند، ولي خواص جالبي داشته باشند.

    افرادي هم كه درگير اين زمينه‌ها و بافتارها بوده‌اند، چه صاحب‌نظران دانشگاهي، و چه متخصصاني كه در بخش خصوصي كار مي‌كنند، به خوبي توانسته‌اند به پيروي از سياق‌هاي دانش مربوطه‌ وارد حل مسائل اين حوزه‌ها بشوند.
     
    مثال وجودي آن هم، برنامه‌هاي خبره يا سيستم‌هاي هوشمندي است كه امروزه در اين زمينه‌ها، در داخل ايران هم توسط پژوهشگران و مهندسان توسعه داده شده است.

    بنابراين ايجاب مي‌كند كه به دنبال زباني باشيم كه مفسر خاصي داشته باشد كه بتواند صورت مسئله را بعد از تفسير، به فضايي برگرداند كه عملگرها بتوانند به صورت تكراري روي وضعيت‌هاي مختلف اعمال شوند تا در نهايت ما را به هدف برسانند.

    به اين ترتيب مفسر زبان پرولوگ توسعه داده شد. زبان پرولوگ چون زبان سطح بالا‌يي است، شديداً به آن مفسر وابسته است. در واقع مسائلي مثل برنامه‌ريزي چون بايد به صورت سطح بالا‌ فكر ‌شوند، پس به صورت سطح بالا‌ هم بايد نوشته شوند.

    يعني نمي‌توانيد از يك تحليلگر نرم‌افزار انتظار داشته باشيد به يك موضوع سطح بالا‌ فكر كند و بعد آن را به زباني بنويسد كه سطح بالا‌ نيست و نيازي به تفسير ندارد. البته، هر موضوع سطح بالا‌يي را مي‌توان به يك زبان پردازه‌اي(Procedural) هم بنويسيد، ولي با دنيايي از IF- Thenها؛ اما چه نيازي به اين كار هست؟

    پس تحول مهندسي نرم‌افزار كجاست؟ اينجا بود كه محققان به سمت تدوين برنامه‌اي رفتند كه اين مشكلا‌ت را برطرف كند و عملا‌ً اين برنامه در آن مقطع چيزي جز زبان پرولوگ نبود.

    اما اتفاقي كه براي Lisp افتاد چه بود؟ Lisp به مراتب زودتر از پرولوگ عرضه شد و در همان اوان شكل‌گيري و تعريف هوش مصنوعي توسط جان مك‌كارتي، در دانشگاه استفورد شكل گرفته بود. در Lisp، بهتر است از ديدِ تبديل به حالت نگاه شود، نه از ديدِ انتقال به يك حالت يا موقعيت.

    من قبلا‌ً فكر مي‌كردم فقط  كساني كه دچار روان پريشي مي‌شوند، ذهن آن‌ها آشوبگونه عمل مي‌كند. در حالي كه در صحبت‌هايي كه با روان‌شناسان و روان‌پزشكان داشتم، دريافتم  كه برعكس اين است؛ هر چه انسان طبيعي‌تر و خلا‌ق‌تر باشد، اين آشوب، خود را به نحو برجسته‌تري نشان مي‌دهد؛ چرا كه Chaos در عين حال كه آشوب است، تضمين‌كننده نوعي تعادل است.

    پرولوگ در واقع به نوعي همان منطق گزاره‌ها است، يعني قائم به گزاره  است، اما در Lisp اين طور نيست، بلكه به همه چيز به صورت مكانيكي و عاري از فضاي گزاره‌ها نگاه مي‌شود.

    در واقع به چيزي نياز دارند كه تبديلا‌ت مكرر را از صورت مسئله تا هدف، توجيه كند و عمده كاربري آن براي آن دسته از مسائلي است كه معنا و گزاره در آن مطرح نيست و اين همان چيزي است كه ما در اصطلا‌ح به آن سيستم‌هاي توليد در AI Prodution Systems) AI)مي‌گوييم: مثل معما و بازي.

    در معما و بازي نيازي  به پرولوگ نداريد. قرار هم نيست داشته باشيد. براي اين‌كه در آن‌ها نيازي به طرح گزاره‌ها نيست. در معما و بازي صرفاً حالت‌هايي مطرح هستند كه در شرايط اعمال يك سري از قواعد، مي‌توانند از يك گونه به گونه‌اي ديگر بروند و شما مي‌توانيد با درپاييدن اين حالت‌ها، نهايتاً به جايي برسيد كه شرايط هدف ارضا گردد. اينجا بود كه زبان Lisp ابداع شد. 


    پس آنجايي كه تبديل مطرح است، Lisp جواب مي‌دهد، و آن‌جايي كه Transition از يك گزاره به يك گزاره ديگر با توجه به شرايط خاص مسئله مطرح است، مانند Planning، پرولوگ جواب مي‌دهد.

    سؤالي كه اينجا مطرح مي‌شود اين است كه آيا مي‌توان به زباني رسيد كه در شرايط خاص خودش، در مُد شبه پرولوگي خود فعال شود وسپس در يك مُد ديگر؟ جواب مثبت است، يعني شما مي‌توانيد يك فرازبان داشته باشيد. منتها، داشتن اين فرازبان،  كه از يك ديدگاه متا با قضيه زبان برخورد مي‌كند، دشواري‌هاي خاصي دارد. زبان پرولوگ رايج براي گزاره‌هاي درجه اول عمل مي‌كند؛ يعني زبان گزاره‌هاي درجه يك.

    ولي به محض اين‌كه گزاره‌ها درجه دو بشود، ديگر زبان پرولوگ جواب نمي‌دهد. گزاره درجه دو يعني گزاره‌اي كه در ساختار خود بازگشت (Recursion)  داشته باشد. 

    پس در آينده مي‌توانيم نيازهايي داشته باشيم كه زبان‌هاي جديد بر مبناي آن‌ها پديد آيند؟

    به شرط اين‌كه در آينده سيستمي را توسعه بدهيد كه بتواند نيازهاي جديد را ببيند. براي اين‌كه هيچ تضميني وجود ندارد كه شما  بتوانيد بگوييد كه از حال‌ تا ابد فقط اين‌گونه نيازها مطرح هست و لا‌غير. بلي، زبان هميشه بر مبناي نياز مطرح مي‌شود.

    ‌‌ ولي نيازهاي حال حاضر جواب داده شده است.

    ‌‌ بله. ولي به محض اين‌كه نياز جديدي مطرح مي‌شود، اذهان به طرف آن مي‌رود. بنابراين اين سؤال كه چه زباني باشد كه بتواند بعد از اين پاسخگو تمام نيازهاي هوش مصنوعي باشد، بي‌مورد است.

    وقتي بحث شبكه‌هاي عصبي، فازي يا الگوريتم‌هاي ژنتيك و يا يادگيري ماشين مطرح مي‌شود،  به نظر شما، تلا‌ش‌هاي فعلي بيشتر به سمتي مي‌رود كه اين سيستم‌ها بهينه شوند يا اين‌كه جهت‌گيري در رابطه با ايجاد سيستم‌هاي جديد است؟

    ‌‌ هر شاخه از متدولوژي كه رشد پيدا كرده است، دليل و انگيزه خاصي پشت آن بوده است. يعني مثلاً  ‌الگوريتم‌هاي ژنتيك و سيستم‌هاي تكاملي وقتي براي اولين‌بار در 1975 توسط هالند و گلدبرگ در دانشگاه ميشيگان مطرح شد، هيچ كاري به شبكه‌هاي عصبي و هوش مصنوعي نداشت. آن‌ها با هدف محدود كردن فضاي جستجو در بهينه‌سازي گام برداشتند.  در سيستم‌هاي طبقه‌بندي‌كننده كه برمبناي اطلا‌عاتي ورودي و استفاده از تعدادي قاعده، يك پديده ورودي را به طبقه‌ خاصي از خروجي انطباق مي‌دهد، نياز است كه قاعده‌هاي اساسي  و مهم شناسايي گردند.
     
    چون از اول تضميني نيست كه Ruleهايي كه ما براي طبقه‌بندي پديده‌هاي محيطي به كار مي‌بريم، Ruleهاي بهينه‌اي باشند. از طرف ديگر، تعداد Ruleها به قدري زياد و قطعيت هر كدام از آن‌ها در حدي ناكافي است كه  در چنين شرايطي وقتي بخواهيد به صورت قاعده‌پي (Rule Based) به جواب برسيد، راهي نداريد جز آن كه براي رسيدن تدريجي به Ruleهاي بهينه و مطلوب از عملكردهاي Ruleهاي قبلي بازخورد بگيريد. پس اينجا اولين بحث، بهينگي (Optimality) است.
     
    بعد، بحث‌هايي مانند طبقه‌بندها، تخصيص اعتبار و سيستم اكتشاف قاعده مطرح مي‌شود. در نهايت به اينجا مي‌رسد كه هر چه ما تخصيص اعتبار (Credit Assignement) هم انجام بدهيم، وامتيازي كه يك Rule از محيط مي‌گيرد، را به خود آن Rule برگردانيم و عملگرهاي كلا‌ن نيز بسازيم، ضمن آن‌كه Ruleهايي را كه بهتر عمل مي‌كنند، در اولويت‌هاي بالا‌ و آن‌هايي كه بدتر عمل مي‌كنند در اولويت پايين‌تر نيز قرار دهيم، از يك حدي بيشتر نخواهيم توانست كارايي يك قاعده را بالا‌ ببريم. اما حال‌ چه بايد بكنيم؟ آيا راه ديگري وجود ندارد كه ما براساس همين قواعد، به قواعدِ با سطح توانمندي بالا‌تر برسيم؟ اينجا نظريه ژنتيك مطرح مي‌شود. در واقع مي‌توانيم از سيستم ذي‌حيات درس بگيريم.

    مگر نه اين‌كه در خلقت انسان، كروموزم‌هاي خوب با هم تركيب مي‌شوند تا كروموزم‌هاي بهتر بسازند. در كروموزم‌هايي هم كه خوب عمل نمي‌كنند، يك جهش اساسي است كه مي‌تواند اميدي براي آن‌ها ايجاد كند. چرا از اين ايده‌ها استفاده نكنيم؟ در ارتباط با قاعده‌هاي خودمان نيز اگر هر قاعده را يك كروموزم در نظر بگيريم،‌ همانگونه كه كروموزم‌ از يك سري ژنوم‌هاي مختلف تشكيل شده، Rule ما هم از تعدادي گزاره تشكيل مي‌شود.
     

    اهم فعاليت‌ها و مقالات تحقيقاتي دكتر بديع در دهه اخير، يادگيري ماشين (ML) و مدل‌سازي شناختي به طور اعم، و مدل‌سازي رايانشي فرآيندهاي قياسي، فرآيندهاي تفسيري و فرآيندهاي مبتني بر تجربه به طور اخص، با تأكيد بر مقاصدي از قبيل انتقال بهينه مفاهيم تخصصي، راهبري تحقيقات و تكنيك‌زايي/ ايده‌زايي در حوزه حل مسائل مهندسي مي‌باشد. دكتر بديع در تدوين بالغ بر دويست  مقاله علمي -تحقيقاتي در حوزه‌هاي پردازش و بازشناسي الگو، هوش‌مصنوعي و رايانش نرم، و سامانه و گردانش براي كنفرانس‌هاي معتبر داخلي و خارجي، و تدوين چند مقاله علمي در مجلات معتبر خارجي و داخلي شركت داشته است. وي در حال حاضر عضو شوراي پژوهشي و رئيس پژوهشكده فناوري اطلاعات در مركز تحقيقات مخابرات ايران، عضو هيئت امناي مركز تحقيقات مخابرات ايران و عضو هيئت مديره انجمن كامپيوتر ايران و مدرس درس يادگيري ماشين و مديريت دانش در دانشگاه‌هاي تهران و از اعضاي فعلي هيئت تحريريه و ويراستاران علمي <گزارش كامپيوتر> نشريه انجمن انفورماتيك ايران مي‌باشد.


    حالا‌ از اين طريق مي‌توانيم بهينه‌سازي كنيم. اينجاست كه الگوريتم ژنتيك و سيستم‌هاي تكاملي
    (Evoluation System) مفهوم پيدا مي‌كند. نظريه‌پردازان فازي نيز از ابتداي كار، توجه خاصي به شبكه‌هاي عصبي نداشتند. آن‌ها هم با ديد خودشان پيش رفتند تا بتوانند عدم قطعيت (Uncertainty) را مديريت كنند و بعدها در اين مسير تلفيق شبكه‌هاي عصبي با منطق شولا‌ معناي خاصي يافت.

    در اينجا سه گرايش به وجود مي‌آيد: گرايش ژنتيك، گرايش فازي و گرايش شبكه‌هاي عصبي. دكتر لطفي‌زاده و همكارانش براي اولين‌بار دريافتند كه اگر اين ابزارها در كنار هم قرار داده شوند، مي‌توانند به گونه‌اي ما را به سطح بالا‌تري از توانمندي‌ها در پاسخگويي به نيازهايمان برسانند.

      او به اين نتيجه رسيد كه شبكه‌هاي عصبي بايد با منطق فازي عجين شود. به دو دليل: يكي كمكي كه فازي به شبكه‌هاي عصبي مي‌كند و دوم كمكي كه شبكه‌هاي عصبي به فازي مي‌كند. اين دو با هم فرق مي‌كنند. به همين دليل به بعضي از اين‌ها Neural Fuzzy Systems مي‌گويند. يعني جايي كه شبكه‌هاي عصبي به فازي كمك مي‌كند و ديگري Fuzzy Neural Systems ناميده مي‌شود كه فازي به شبكه‌هاي عصبي مي‌كند. شبكه‌هاي عصبي كجا به فازي كمك مي‌كند؟ اگر يك ماشين استدلا‌ل‌گر موازي داشته باشيد كه قواعد آن فازي باشد،  با توجه به غيرقطعي بودن اين قواعد، عملا‌ً كمكي كه شبكه‌هاي عصبي مي‌تواند به فازي بكند، اين است كه توابع كنش
    (Activation Function) خود  را تابع عضويت فازي اختيار كند.

    از طرف ديگر، فازي چه كمكي مي‌تواند به شبكه‌هاي عصبي بكند؟ شبكه‌هاي عصبي به‌ويژه شبكه‌هاي عصبي كه يادگيريشان از نوع پس‌انتشار خطاست، ممكن است براي همگرا شدن در فرآيند يادگيري با مشكل زمان مواجه بوده و  يا اساساً خود مشكل همگرايي داشته باشند. گاهي زمان مي‌برد كه يك شبكه عصبي به همگرايي برسد و گاهي اصلا‌ً نمي‌تواند به همگرايي برسد. اگر ضريب يادگيري در مُد يادگيري شبكه عصبي را با استفاده از فازي اختيار بكنيم و به عبارتي، به گونه‌اي نسبيت را در تعيين ضريب دخالت دهيم، ناگهان مي‌بينيم كه منطق فازي مي‌تواند به عنوان يك تعديل‌گر (Mod erator) عمل نمايد.

    حالا‌ ژنتيك چه كمكي به شبكه‌هاي عصبي مي‌كند؟ چه تضميني هست كه اين شبكه عصبي كه ما از اول طراحي مي‌كنيم، از لحاظ ساختار و توپولوژي بهينه باشد؟ نمي‌دانيم. چند لا‌يه مخفي و در هر لا‌يه چه ميزان  نورون؟! در اينجا شبكه عصبي را در قالب رشته‌اي كروموزم‌وار در نظر مي‌گيريم. از تمام ديدگاه‌هاي ژنتيك استفاده مي‌كنيم و ساختار شبكه‌ عصبي را بهينه مي‌سازيم و اسم آن را هم Genetic Neural Net) GNN) مي‌گذاريم.
     
    حالا‌ مي‌توانيم همه اين‌ها را با هم داشته باشيم. در ادامه، آن‌هايي كه روي تئوري آشوب (Chaos Teory) و حتي فراكتال‌ها كار كرده‌اند، مي‌توانند حرف‌هاي زيادي براي اثرگذاري بر روي شبكه‌هاي عصبي نسل‌هاي جديدتر  داشته باشند.

    حالا‌، كمي برمي‌گرديم به مغز. مغز آدم طوري است كه شبكه عصبي آن فقط طبقه‌بندي نمي‌كند، حافظه هم دارد. يعني Internal State دارد. به زبان استاد فون نيومن، مبدع علوم كامپيوتري و اتومات‌هاي سلولي، حافظه در خودش ذخيره مي‌كند. چيزهايي كه مثل اتوماتون يا خودكار حافظه ذخيره مي‌كنند، بنا به ورودي‌اي كه مي‌آيد نه‌ تنها خروجي خاصي را در اختيار مي‌گذارند، بلكه حافظه داخلي آن‌ها هم تغيير مي‌كند. اگر بتوانيد سيستمي داشته باشيد كه بنا به واكنشي كه نسبت ورودي انجام مي‌دهد، حافظه داخلي آن هم تغيير ‌كند، بسيار به مغز شبيه مي‌شود. پس به اين فكر مي‌افتيم كه شبكه‌هاي عصبي حافظه‌دار داشته باشيم. چگونه مي‌توانيم حافظه داشته باشيم، اينجا تئوري آشوب به ميان مي‌آيد. پس اينجا وارد بحث بسيار جذابي از لحاظ رياضي مي‌شويم تحت عنوان  رايانش عصبي آشوب‌گونه (Neuro Chaotic Computing).  بله، مغز انسان آشوب‌گونه (Chaotic)  عمل مي‌كند.

    نكته جالب اين است كه من قبلا‌ً فكر مي‌كردم فقط  كساني كه دچار روان پريشي مي‌شوند، ذهن آن‌ها آشوب‌گونه عمل مي‌كند. در حالي كه در صحبت‌هايي كه با روان‌شناسان و روان‌پزشكان داشتم، دريافتم  كه برعكس اين است؛ هر چه انسان طبيعي‌تر و خلا‌ق‌تر باشد، اين آشوب خود را به نحو برجسته‌تري نشان مي‌دهد؛ چرا كه Chaos  در عين حال كه آشوب است، تضمين‌كننده نوعي تعادل است. 

    در حال حاضر ما هم ابزار و هم زبان مناسب را داريم، اما شبكه‌هاي ما نسبت به سيستم‌هايي مانند مغز انسان ضعيف‌تر عمل مي‌كنند و همگرايي كافي ندارند. آيا دليل همه اين‌ها را در ماهيت آشوب‌گونه (Chaotic) بودن آن‌ها مي‌بينيد يا صرفاً در پيچيدگي آن‌ها؟

    در روش محاسباتي ما دو نارسايي عمده وجود دارد و هر دو به بنيان‌هاي معرفت‌شناسي متدولوژي ما برمي‌گردد. اگر به لا‌يه‌بندي‌هاي فلسفي توجه ‌كنيد، از هستي‌شناسي وارد معرفت‌شناسي يا شناخت‌شناسي مي‌شويد و بعد به روش‌شناسي مي‌رسيد. ما عمدتاً در شناخت‌شناسي مشكل داريم. ما تمام متدهايي كه اختيار مي‌كنيم، با اين پيش‌فرض است كه مغز حالت مداري دارد. يعني ما عمدتاً با نوعي پيش‌انگاري مداري، در خصوص مغز مواجهيم. از آن جايي كه نورون‌ها و سيناپس‌ها به هم متصلند، يك مدار وجود دارد؛ البته نه مدار ديجيتال، بلكه مدار آنالوگي كه سعي مي‌كنيم خواص ديجيتال را در آن بيابيم.

    از كجا معلوم كه اين پيش‌فرض صحيح باشد؟ درست است كه اين عناصر به گونه‌اي به هم متصل هستند، ولي آيا اين اتصال به آن معني است كه ما به راحتي وارد تئوري مدارها بشويم؟ ممكن است در اصل مداري مطرح نباشد. ممكن است بحث فرستندگي و گيرندگي مطرح باشد. يعني شما فضايي را تصور كنيد كه كانون‌هاي ميداني‌اي داريد كه مجموعه‌اي از نورون‌ها هستند (تا اينجا مي‌تواند مدار باشد)، كه اين كانون‌هاي ميداني، خواصي را از خود ساطع مي‌كنند كه كانون‌هاي ديگر، در دريافت آن خواص و تركيبات شيميايي كه اتفاق مي‌افتد، خواص جديد را متبادر مي‌سازند. به تعبيري خواص در تعامل بيوشيميايي مفهوم پيدا مي‌كنند.

    در اينجا ديگر يك نظريه الكتروني ساده جواب نمي‌دهد. بايد از نظريات الكتروشيميايي استفاده كرد. وقتي مي‌گوييم تئوري الكتروشيميايي، اولين پيش‌فرض ما اين است كه چيزي به اسم فعل و انفعال شيميايي وجود دارد يا تركيب شيميايي. از طرف ديگر، مي‌دانيم كه سيستم، اندامه‌اي (ارگانيك) است. يعني زيستي است؛ پس كلمه  الكتروشيميايي هم كافي نيست؛ زيرا شيمي ممكن است شيمي معدني باشد (آلي نباشد). پس تئوري  الكتروشيميايي آلي مطرح مي‌شود. الكترون در هر صورت هست. مگر در فعل و انفعالا‌ت شيميايي الكترون‌ها تبادل نمي‌شوند؟ منتها، اين يك تبادل از نوع مداري ساده‌اي نيست. بلكه نوعي تبادل الكتروشيميايي است كه به نظر مي‌رسد جواب مسئله همين جا نهفته باشد.

    مسئله ديگر اين‌كه، در چنين شرايطي، وقتي ما پيش‌فرضمان را، نسبت به پيش‌زمينه معرفت‌شناسي حاكم  تغيير داديم و به بحث الكتروشيميايي‌آلي وارد شديم، از لحاظ متدولوژي محاسباتي بايد چه نكات خاصي را لحاظ كنيم؟ در اينجاست كه مي‌رسيم به آنچه كه شما اشاره كرديد: ما نيازمند تئوري‌هاي رياضي‌اي هستيم كه مسائلِ با درجه پيچيدگي بالا‌ي حل‌نشده را حل كنند.

    شايد يك جايگزين براي اين قضيه، تئوري آشوب باشد. تئوري آشوب مي‌گويد: اگر تغييري بس جزئي در شرايط اوليه پديد بيايد، سيستم غيرقابل پيش‌بيني مي‌شود. اين موضوع از اين لحاظ جذاب است كه از يك سو بحث غيرقابل پيش‌بيني بودن را دربر گرفته و باز هم بسيار جذاب است به خاطر اين‌كه با اصل عدم قطعيت هايزنبرگ همخواني دارد. با اصل گودل در منطق رياضي هم همخواني دارد. گودل مي‌گويد كه بسياري قضايا وجود دارد كه درست است، كه ضمن درست بودن آن‌ها، نمي‌توانيم ثابت كنيم كه درست است و مي‌توانيم ثابت كنيم كه نمي‌توانيم ثابت كنيم كه درست است. مثلا‌ً قضيه‌اي هست كه مي‌گويد: شما هر عدد فرد را در عدد سه ضرب كنيد و يك عدد به آن اضافه نماييد، يك عدد زوج به دست مي‌آيد. حالا‌ اگر اين عدد را آنقدر بر دو تقسيم مي‌كنيم و تا دوباره به يك عدد فرد برسيد و دوباره همين عمليات را تكرار كنيد. سرانجام به صورت آبشاري به عدد يك مي‌رسيد. مثلا‌ً:

    =3 *11= 8÷ 88=1+87 =3*29 =2 ÷ 58 =1+ 57 =3*19
    =8÷40=1+39=3*13=4÷52=1+51=3* 17=2÷
    34=1+33 
    1=24÷16=1+15=3*5

    نمي‌توانيد ثابت كنيد كه اين قضيه درست است. چون ثابت شده است كه نمي‌توانيد ثابت كنيد.
    بنابراين، تئوري آشوب، در اينگونه موارد مي‌تواند تئوري مناسبي باشد. در هر صورت در شرايط پيچيدهِ خاص بايد متدولوژي‌ها هم پيچيدگي‌هاي خاص خود را در برخورد با ابهام و عدم قطعيت داشته باشند.

    در نهايت من فكر مي‌كنم مطالعه انسان شايد به كشف حقيقت انسان نرسد، ولي مي‌تواند واقعيات حقيقي جذابي را در مورد انسان و محيطش براي ما آشكار كند. يكي از نكات زيبا و جذابي كه در مطالعات مربوط به انسان به لحاظ مغز و سيستم ايمني و ... مي‌تواند وجود داشته باشد، اين است كه ما مي‌توانيم به برساخته‌هاي حقيقي جذابي برسيم كه ممكن است انسان‌گونه هم نباشند، ولي خواص جالبي داشته باشند.

    به نظر من وب يك بحث بسيار مهم در هوش مصنوعي است. اساساً وب يك پديده هوش مصنوعي به حساب مي‌آيد. در اينجا بحث نرم‌افزار اينترنت مطرح نيست. وب از اين جهت كه ذات آن قائم به پيوند و اتصال  است، به لحاظ هوش بسيار مهم است.

    ‌‌ نقش هوش‌مصنوعي را در مورد موضوعاتي مانند وب و اينترنت چگونه ارزيابي مي‌كنيد؟
    به نظر من وب يك بحث بسيار مهم در هوش مصنوعي است. اساساً وب يك پديده هوش مصنوعي به حساب مي‌آيد. در اينجا بحث نرم‌افزار اينترنت مطرح نيست. وب از اين جهت كه ذات آن قائم به پيوند و اتصال  است، به لحاظ هوش بسيار مهم است؛‌به ويژه مواقعي كه قصد داريد يك پديده را به صورت معنايي بررسي كنيد.
     
    در اينجا پيش‌ شرط شما اين است كه يك سري فايل با نمايه‌بندي‌هاي خاص خودش در پايگاه اطلا‌عاتي وجود دارد و شما قرار است اين بررسي معنايي را كه به تعبيري، پاسخ به يك درخواست معنايي است، ‌قائم به پيوند خاصي بكنيد كه بين اين‌ها بايد برقرار شود.

    شايد يكي از كارهاي تحقيقاتي جالب اين باشد كه شما شبه وب را در ذهن انسان تعريف يا جست‌وجو كنيد.
     

    ذهن انسان در اينجا به عنوان يك پايگاه اطلا‌عاتي گسترده تلقي مي‌شود كه ملغمه‌اي از صفحات وب مختلف است و وقتي انسان وارد مُد تفكر مي‌شود، گويي كه پرس‌وجويي برايش مطرح شده كه قصد دارد در قبال اين پرس‌وجو، پاسخ خاصي را پيدا كند.
     
    يكي از زيبايي‌هاي وب نه به خاطر انتظارات اوليه‌اي بود كه از وب مي‌رفت، بلكه به خاطر خواص بعدي‌اي بود كه از آن نمايان شد  و آن  وب معنايي است؛  ماشين‌هاي جست‌وجوي متداول، از يك حدي به بالا‌تر، حرفي براي گفتن ندارند، اما وب معنايي پديده بسيار جالبي است؛ به ويژه براي محيط‌هايي كه در آن، به دنبال ايجاد نوعي معناي جديد هستيد. وب معنايي دقيقاً تلا‌قي بين هوش مصنوعي و فناوري اطلا‌عات است. بعد از تحولي كه نظريه فازي به وجود آورد، در حال حاضر وب به پل بسيار مناسبي بين نمادگرايي و تعامل‌گرايي تبديل شده است. 

    وب معنايي بحث بسيار گسترده‌اي است. به ويژه آن‌كه، بعداً كه وب سازماني نيز مطرح شد، اهميت بيشتري مي‌يابد؛ چرا كه وارد بحث‌هاي اجتماعي هم مي‌شود. مي‌توانيد وب سازماني را به وب اجتماعي تبديل كنيد. به اين ترتيب جامعه‌شناسان مي‌توانند روي Social Semantic Web كار كنند كه در اينجا، معناگرايي عملا‌ً به عمل‌گرايي كه در سيطره جامعه‌شناسي مطرح است، روي مي‌آورد. 

    براي افرادي كه به هوش مصنوعي علا‌قه دارند، چه توصيه‌اي داريد؟
    ‌‌ توصيه‌ مي‌كنم كه خودشان باشند. به اين معنا كه به علا‌قه‌هاي دروني خودشان، انگيزه‌ها و توانمندي‌ خودشان توجه كنند. در عين حال به مقتضيات محيط كار هم توجه كنند. اما چون اكثر افرادي كه به سمت هوش مصنوعي مي‌روند، علا‌قهِ دروني قوي‌اي دارند، اگر به لحاظ مالي نيز تا حدودي تامين باشند، مي‌توانند رشد قابل ملا‌حظه‌اي داشته باشند. علا‌قه،‌ انگيزه و توانايي سه توصيه مهم من به كساني است كه وارد اين حوزه مي‌شوند.

    ‌‌
    امسال، پنجاهمين سالگرد رسمي هوش مصنوعي است. بسياري تلا‌ش كرده‌اند كه ثابت كنند توانايي‌ها و قابليت‌هاي هوش مصنوعي سرانجام مي‌تواند به پاي قابليت‌هاي هوش انساني برسد. نظر شما در اين‌باره چيست؟

    ‌‌ ‌اساساً چه نيازي است به اين موضوع فكر كنيم كه توانايي‌هاي هوش‌مصنوعي به پاي توانايي‌هاي هوش انساني مي‌رسد يا نه؟ ما بايد به دنبال اين باشيم كه كدام يك در كدام شرايط مناسب‌تر است و بهتر جواب مي‌دهد. مطرح كردن اين بحث، طلب مي‌كند كه ما تا حدودي خاشعانه با قضيه برخورد كنيم و كمي از آن ديد دكارتي فاصله بگيريم. اين كه توانايي‌هاي هوش مصنوعي به پاي توانايي‌هاي هوش انساني مي‌رسد، يك ديد پوزيتيويستي نهفته در ديدگاه دكارتي است. در اينجا بايد شعار <من هستم چون، فكر مي‌كنم> را به  اينگونه بيان نمود كه <من هستم، چون فكر مي‌كنم و احساس هم دارم>. البته اگر در تفكر احساس هم باشد، بهتر است بگوييم من فكر مي‌كنم، چون مي‌خواهم پيوند ايجاد كنم.

    نكته بسيار مهم اين است كه ما به اين موضوع بينديشيم كه هوش‌مصنوعي چه چيزهايي مي‌تواند در اختيار ما قرار دهد كه انسان‌هاي خلا‌ق‌تر و بهتري باشيم. وقتي بتوانيم انسان‌هاي خلاق‌تر و بهتري شويم، چه نيازي هست كه چيز ديگري را جايگزين خودمان بكنيم. در نهايت من دوست دارم نقش هوش مصنوعي را در اين ببينيم تا با استفاده بهين از سيستم‌هاي طراحي شده به ما كمك كند كه انسان‌هاي بهتر و خلا‌ق‌تري باشيم و به درجه بالا‌تري از انسانيت برسيم.

    آيا ابزارهاي نرم‌افزاري كه در حال حاضر براي پيشبرد هوش مصنوعي وجود دارند، براي اين كار كفايت مي‌كنند يا اين‌كه به ابزارهاي جديدي نياز داريم؟

    زبان‌هايي كه تا كنون در حوزه  هوش مصنوعي توسعه‌ داده شده‌اند، هركدام با انگيزه خاصي و با توجه به تعقيب كردن ويژگي‌هاي خاصي، در يك مساله خاص، به وجود آمده‌اند. به عنوان نمونه، پرولوگ به اين خاطر به وجود آمد كه محققان احساس كردند بحث <حل مسئله> (Probleme Solving) و <برنامه‌ريزي> (Planning) در هوش، اهميت زيادي دارد. به عنوان يك مصداق هوشمندي، با مقوله Planning مواجه هستيد؛ يعني Initial Condition داريد، Final goal داريد و تعدادي اپراتور يا عملگر كه به‌ازاي پيش‌شرط‌هايي، چنانچه فعال شوند، شما را از يك وضعيت به وضعيت ديگر مي‌برند، چون برنامه‌ريزي مسئله‌اي است كه در طبيعت خودش قائم به انتقال حالت (State Transition)  است، يعني انتقال از يك حالت يا موقعيت به يك حالت يا موقعيت ديگر.
    ‌‌ در تاريخ پنجاه ساله هوش مصنوعي در دنيا، چه عواملي اگر وجود مي‌داشت (يا سرمايه‌گذاري‌هايي انجام مي‌گرفت) باعث پيشرفت بيشتري نسبت به وضعيت فعلي مي‌شد و فكر مي‌كنيد كه چه عاملي مي‌تواند چنين تحولي را در آينده به وجود آورد؟

    ‌‌ به اين نكته بايد دقت داشته باشيد،  به راحتي نمي‌توانيد بگوييد كه اگر اينگونه مي‌شد، خوب مي‌شد. البته مي‌توانيد بگوييد كه در خيلي جاها  نمي‌توانيد انتظار داشته باشيد كه اين قضيه در عمل مي‌توانست اتفاق بيفتد. چرا؟
     
    به خاطر اين‌كه وقوع آن قضيه، چيز في‌البداهه‌اي نيست. خود آن اتفاق، زمينهِ قبلي‌اي مي‌خواست كه اگر آن پيش‌زمينه را در نظر بگيريد، به اين نتيجه مي‌رسيد كه چه بسا همان اتفاقي كه افتاده، اتفاق بهينه و مطلوب بوده است.

    با اين حال مي‌توانم نكاتي را براي شما ذكر كنم كه اگر اين نكات اتفاق نمي‌افتاد يا حداقل تعديل پيدا مي‌كرد، زودتر به نقطه‌اي مي‌رسيديم كه در حال حاضر در آن به سر مي‌بريم. مثلا‌ً برنامه‌هاي پژوهشي دانشگاه‌ها و مراكز تحقيقاتي درباره موضوعات گوناگون شكل مي‌گيرند كه اگر اين برنامه‌ها بيش از اندازه  قالب افراطي به خود بگيرند، مي‌توانند در سير تكوين فناوري تأخير و تعلل ايجاد كنند؛ بنابراين، همين كه به طور افراطي، وارد بحث‌هاي فورمالستيك منطق و مسائلي از اين دست مي‌شويم، از جايي به بعد،  ورود به بحث‌هاي عملي در يك فناوري را به وقفه مي‌اندازيم.

    آيا اين زيان‌ها و مشكلا‌ت در حال حاضر هم وجود دارد؟

    ‌‌ الا‌ن خيلي كمتر شده است؛ چراكه زمينه هوش مصنوعي بسيار باز و گسترده شده است. به طوري كه حتي اگر افرادي بخواهند فقط در زمينه تحقيقات نظري خاصي كار كنند، افراد ديگري هم هستند كه در زمينه‌هاي عملي فعاليت مي‌كنند.

    ‌‌ ‌
    پي بردن به مكانيزم كاركرد مغز انساني تا چه حد مي‌تواند در پيشرفت هوش مصنوعي به ما كمك كند؟

    ‌‌در اين زمينه بهتر است اساتيد برجسته‌اي چون استاد لوكس و استاد هاشمي گلپايگاني كه از منظر كنترل و سيستم‌هاي پويا وارد مقوله مكانيسم‌هاي هوشمند شده‌اند، اظهار نظر بفرمايند؛  تنها به اين نكته بسنده مي‌كنم كه به زعم اينجانب،  با شناخت مغز انسان، نمي‌توان انتظار داشت كه،  به چنان دانشي رسيد كه بر مبناي آن تحول بسيار ويژه‌اي در سيستم‌هاي هوشمند فعلي اتفاق بيفتد. البته اين حرف به اين معني نيست اصلا‌ً اين امر اتفاق نيفتاده باشد. همين ارجاع به مغز باعث شد انقلا‌ب شبكه‌هاي عصبي اتفاق بيفتد. بسياري از نظريه‌پردازان شبكه‌هاي عصبي، افرادي بودند كه با الگوهايي كه از مغز  گرفتند، شبكه‌‌هاي عصبي‌اي ابداع كردند كه  كاركرد آن‌ها انسان گونه باشد.

    اما هميشه شناخت انسان نسبت به هر چيزي، كراني دارد. از يك جايي به بعد، ممكن است شناخت به عنوان معكوسِ شناخت عمل كند. يعني اگر شما بخواهيد به صورت بسيار جزئي و عميق وارد مطالعات مربوط به مغز بشويد، ممكن است راه را براي بازگشت گم كنيد! آنچه محرز است، كسب شناخت نسبت به كليات بيشتر مغز، از طريق آزمايش‌ها، بسيار مغتنم است، ولي چيزي كه افزون‌ بر آن، مورد نياز است، نوع تفسيري است كه از نتايج اين آزمايش‌ها به عمل مي‌آيد. چون آنچه كه در نهايت مي‌تواند در توسعه سيستم‌هاي هوشمندِ توانمندتر تعيين‌كننده باشد، نتايجِ صرف به دست آمده‌ از آزمايش‌ها نيست، بلكه تفسيري است كه از نتايج اين آزمايش‌ها به عمل مي‌آيد و همين امر باعث شده است كه يك شاخه از روانشناسي اعصاب (Neuro Psychology) در سال‌هاي اخير تحت عنوان Cognitive Neuro Psychology شكل بگيرد كه در واقع كار آن بررسي يافته‌هاي روانشناسي اعصاب از ديدگاه شناخت است.

    ‌‌ آيا مي‌توانيم از صحبت‌هاي شما اين‌گونه نتيجه‌گيري كنيم كه ‌اگر قرار باشد در آينده، تحول بزرگي در هوش‌مصنوعي رخ دهد، اين تحول در شبيه‌سازي نخواهد بود؟

    ‌‌ درباره اين موضوع بايد تا حدودي محتاط باشيد. شما در هر كاري، در هر حوزه‌اي، و با هر گرايش فكري، نياز به شبيه‌سازها داريد. ولي شايد لا‌زم باشد شبيه‌سازهاي توانمندتري ساخته شود كه نتيجه كارشان با رويداد اصلي  انطباق بيشتري داشته باشد.

    موضوع ديگر اين‌كه، شايد الزاماً تنها خود مغز نبايد به عنوان بستر تأمين‌كننده‌اي براي توسعه سيستم‌هاي هوشمند در نظر گرفته شود. آنچه در خلقت اتفاق مي‌افتد، فقط خلقت ذي‌حيات نيست. موجوداتي كه حيات هم ندارند، به نحوي داراي هوشمندي هستند. به عنوان مثال، فلزاتي هستند كه تحت شرايطي، وقتي گرم مي‌شوند و سپس سرد مي‌گردند، به حالت اوليه خود برمي‌گردند.

    به جرات مي‌توان گفت كه IT اولين فناوري‌اي است كه مقوله تعاملي (Interactive) بودن و ارتباطيCommunicative) بودن كاربر انساني را در سيطره كاركردي سامانه‌ها مطرح مي‌كند. يا به تعبيري،‌آحاد انساني را به عنوان زيرمجموعه‌اي از فناوري مي‌بيند. هيچ فناوري ديگري نبوده است كه كاربر انساني يا عنصر انساني را به عنوان زيرمجموعه خودش ببيند.

    ‌‌ شما اين موضوع را متضمن نوعي هوش مي‌دانيد؟

    البته. ببينيد،‌ تعريفي كه امروزه از هوش مي‌شود،  بيشتر به انعطاف‌پذيري (Flexibility) اشاره دارد كه شما به صور مختلف مي‌توانيد آن را در تغيير حالت يافتن يك موجود در برخورد با محيط خود پيدا كنيد.

    اگر بپذيريم كه هوش نوعي حالت انتقالي (transitive) است كه يك موجود در برخورد با محيط به خود مي‌گيرد، ديگر لزومي ندارد كه بحث در مورد آن را فقط به ذي‌حيات محدود كنيم. به همين خاطر امروزه سرمايه‌گذاري‌هاي بسيار كلا‌ني  صورت مي‌گيرد كه فيزيكدان‌ها، در مورد هوش تحقيق كنند و اين خود نشان مي‌دهد كه فقط مغز نيست كه مي‌تواند تأمين‌كننده اطلا‌عات باشد. پديده‌هاي فيزيكي نيز به نوبه خود مي‌توانند در اين بحث مطرح شوند.

    ‌‌
    لطفاً در مورد ديدگاه‌ها  و نگرش‌هاي موجود در علم هوش مصنوعي توضيح دهيد.

    ‌‌ در هوش مصنوعي دو پارادايم فكري متعامد نسبت به هم وجود دارد: يكي پارادايم سيمبوليك يا نمادين، و ديگري پارادايم كانكشنيستي يا پيوندگرا. تفاوت عمده اين دو را مي‌توانيد در اين ويژگي‌ها خلا‌صه كنيد: در پارادايم نمادين، همه چيز به صورتي مبتني بر يك سري خصلت و فرآيند اشتقاق آن الگوريتميك است. در حالي كه در پارادايم پيوندگرا، چيزي به نام الگوريتم وجود ندارد. يعني شما نمي‌توانيد در شبكه‌هاي عصبي دنبال الگوريتم بگرديد.

    تعدادي نورون وجود دارند كه يك سري توابع رياضي هم به آن‌ها تخصيص داده شده است؛ البته به گونه‌اي با  الگوهاي آموزشي  كه  به آن‌ها داده‌ايد، شبكه را آموزش مي‌دهيد و به شكلي در صدد تضمين آن هستيد كه اين شبكه از قابليت طبقه‌بندي و تفسير نسبت به مثال‌هاي آتي خودش نيز برخوردار گردد. اما با گزاره‌هاي خاصي كه تبيين‌كنندهِ روند تضمين باشد سروكار ندارند.

    در حالي كه در هوش مصنوعي نمادين، گزاره وجود دارد. اگر اين بحث را تعميم بدهيم، به جايي مي‌رسيم كه مي‌توانيم بگوييم در هوش مصنوعي پيوندگرا، چيزي به اسم دانش (Knowledge) و به‌تبع آن بازنمايي‌دانش معناي خاصي نمي‌يابد.  در صورتي كه در هوش مصنوعي نمادين، بخش عمده‌اي از بحث به اين برمي‌گردد كه دانش چگونه بازنمايي گردد. مثلا‌ً مي‌توانيد براي بازنمايي دانش، از Rule كه يك روش پردازشي ايجايي است يا از شبكه‌هاي معنايي و يا از قاب كه طبيعت سلسله مراتبي و ساخت‌يافته‌اي دارد، استفاده كنيد.

    نكته ديگر اين‌كه، در هوش مصنوعي نمادين، مي‌توانيد مسير رسيدن به جواب را اثبات كنيد. بر مبناي همين تفكر،‌سيستم‌هاي خبره شكل گرفته‌اند. سيستم‌هاي خبره اين قابليت را دارند كه چوني و چراييِ رسيدن به جواب را در اختيار كاربر بگذارند و اين كار را از طريق مياناي گرافيكي كاربر (Graphic User Interfaice) خاصي انجام مي‌دهند كه در اختيار دارند. حال آن‌كه شبكه‌هاي عصبي، چنين قابليتي را ندارند. چون اعتقادي به نماد ندارند. از همه مهم‌تر اين‌كه، نحوه برخورد با  حقيقت (Truth)، در هوش مصنوعي نمادين  بسيار متفاوت با هوش مصنوعي پيوندگراست.
     
    در هوش مصنوعي نمادين، گزاره‌ها، مشمول حقيقت (Truth) يا كذب (Falsness) مي‌شوند. در صورتي كه در هوش مصنوعي پيوندگرا، بحث Truth يا False به صورت معمول و متعارف وجود ندارد. آنجا بحث‌هايي از قبيل حيات‌پذيري (Viability) و يا  كاربري‌پذيري (Workibility) است كه بيشتر معنا مي‌يابد.

    از جمله فعاليت‌هاي علمي - حرفه‌ايِ ديگر  دكتر بديع مي‌توان به موارد زير اشاره داشت:
    عضويت در هيئت اجرايي انجمن انفورماتيك ايران، عضويت در هيئت مديره انجمن كامپيوتر ايران، دو دوره عضويت در هيئت مديره انجمن مهندسي كنترل و ابزار دقيق ايران،  عضويت سابق در شوراي علمي پژوهشكده سيستم‌هاي هوشمند، دبيري هفتمين كنفرانس سالانه انجمن كامپيوتر ايران، دبيري سمپوزيوم فرآيندهاي تفسيري و پردازش محيطي (IPEF)، عضويت در تيم گردانندگان كميته علمي اولين كنفرانس اروپايي-آسيايي فناوري اطلاعات و ارتباطات (Eurasia ICS-2002)، مسئوليت كميته روابط بين‌الملل هفتمين كنفرانس مهندسي برق، مسئوليت كميته علمي دومين و سومين كارگاه فناوري اطلاعات و گستره‌هاي آن (WITID 2004, WITID 2006)، عضويت در كميته علمي كنفرانس بين‌المللي سيستم‌هاي هوشمند شناختي (ICICS)، مسئوليت كميته علمي اولين همايش اخلاق و فناوري اطلاعات، مسئوليت كميته علمي (شاخه ايراني)‌ سومين همايش بين‌المللي روش تحقيق در علوم و فنون مهندسي، عضويت در كميته‌هاي علمي كنفرانس‌هاي سالانه انجمن كامپيوتر ايران و نيز كنفرانس‌هاي مهندسي برق ايران، عضويت در كميته علمي كنفرانس‌هاي ماشين بينايي ايران، عضويت در كميته علمي و سازماندهي كنفرانس بين‌المللي هوش مصنوعي در آمريكا (IC-AL-2004)، عضويت در شوراي تحريريه مجله فني - مهندسي دانشگاه فردوسي مشهد، عضويت در شوراي تحريريه مجله علوم مهندسي و كامپيوتر،‌ عضويت در شوراي تحريريه مجله بين‌المللي مهندسي، عضويت در شوراي تحريريه مجله Scientific Inquiry و عضويت در تيم سرپرستي پروژه تحقيقاتي شبكه‌هاي عصبي.


    به عبارت ديگر، چيزي كه در ارتباط با روش‌هاي پيوندگرا و در ادامه آن‌ها،‌ روش‌هاي تعامل‌گرا  وجود دارد، بحث عقلا‌نيت محدود (Bonded Rationality) است. اين يك مسئله بسيار اساسي به عنوان عامل مميزهِ اساسي ميان هوش مصنوعي نمادين و هوش مصنوعي پيوندگرا است. در هوش مصنوعي نمادين و مبتني بر نظريه تورينگ و اثبات‌پذيري جهان‌شمول، عقلا‌نيت، محدود نيست؛ بلكه مطلق است. در صورتي كه در ديدگاه‌هاي پيوندگرا، شما با عقلا‌نيت محدود (Bonded Rationality) مواجهيد.

    كاري كه منطق شولا‌ (فازي) انجام داد و در آن بسيار هم موفق بود، اين بود كه توانست پُلي منطقي بين اين دو پارادايم ايجاد كند. فازي پلي شد بين نظريه‌هاي نمادين و پيوندگرا. به اين خاطر كه، فازي هنوز نمادين بود، از جهت اين‌كه خودش را برپايه گزاره‌ها بنا كرده بود (خودِ تئوري مجموعه‌ها يك پديده نمادين است).
     
    ولي از اين جهت   كه بحث نسبيت را وارد عرصه اعتبارسنجي گزاره‌ها كرد، پيوندگرا بود. پس برطبق اين نظريه، به دنبال اين نباشيد كه گزاره‌اي صددرصد درست و يا صددرصد خطا باشد. فازي پلي بين اين دو شد و بهترين نزديكي و تفاهمي كه بين هوش مصنوعي و نمادين و پيوندگرا به وجود آمد، آنجايي بود كه سيستم‌هاي نمادين قاعده‌پي
    (Rule Based) موازي را توانستيم توسط شبكه‌هاي عصبي فازي پياده‌سازي كنيم.

    Neuro Fuzzy Systemها در واقع واضح‌ترين مصداقي هستند كه براي پيوند دو پارادايم فكري نمادين و پيوندگرا به وجود آمدند.

    در ارتباط با زبان‌هاي كامپيوتري هوش مصنوعي، نكته مهم و مميزه، رويه‌اي بودن آن‌هاست. اگر دقت كنيد، در زبان‌هاي قراردادي كامپيوتري، با موجوديتي تحت عنوان IF - Then روبه‌رو هستيد. يعني اگر اين دو را در برنامه نداشته باشيد، پيشروي در برنامه نخواهيد داشت. ولي به خاطر غيرپردازه‌اي بودن ماهيت هوش در بسياري از موارد، بهتر دريافته شد كه به جاي اين‌كه قواعد (Ruleها) را در برنامه قيد كنيم، صورت مسئله را در برنامه در نظر بگيريم كه مشتمل بر شرايط آغازين، شرايط هدف و انتهايي مسئله بوده و عملگرهايي كه مي‌توانند ما را از يك وضعيت به وضعيت ديگر ببرند؛ بدون آن‌كه اشاره خاصي به اصطلا‌ح‌شناسي <اگر - آنگاه> داشته باشيم. آن‌گاه خود برنامه قادر خواهد بود به خاطر مفسر (interpretor) خود، اين را به حالتي ببرد كه قواعد فعال شده و با فعاليت خود به شرايط آغازين مسئله برگردند و در نهايت ما را به سمت هدف سوق دهند. مصداق بارز اين زبان‌ها، همان زبان پرولوگ است. 

    ‌‌ ‌مي‌توانيد نمونه‌هايي را مثال بزنيد؟

    ‌اول توضيحي بدهم كه چرا بين يك سيستم خبره و يك سيستم هوشمند كمي تمايز قايل ‌هستم. به اين خاطر كه سيستم خبره عملا‌ً خودش را بيشتر قائم به هوش مصنوعي نمادين مي‌كند.
     
    هر چند در حال حاضر ما سيستم‌هاي خبره‌اي داريم كه حداقل بخش ميانا و اينترفيس آن، با تبعيت از  روش‌هايي مثل شبكه‌هاي عصبي عمل مي‌كند، ولي عمدتاً سيستم‌هاي خبره، هنوز بر پايه هوش نمادين عمل مي‌كنند.

    اما وقتي مي‌گوييم سيستم هوشمند، در واقع ديگر ذات سيستم را قائم به يك برنامه نمادين نمي‌بينيم؛ مانند سيستم‌هاي كنترلي، روبات‌ها يا برنامه‌هاي هوشمندي كه در حوزه مدل‌سازي، تشخيص و درمان پزشكي و تحليل و طبقه‌بندي انواع الگوها شكل گرفته‌اند.

    اما پيشرفت در اين زمينه، عمدتاً به اين نكته برمي‌گردد كه هوش مصنوعي و هوش رايانشي جزء آن دسته از گستره‌ها محسوب نمي‌شوند كه براي يافتن نمود بيروني خود، الزاماً به تجهيزات خاص يا گرانقيمتي نياز داشته باشند؛ مانند حوزه پزشكي، ميكروالكترونيك و يا فيزيك هسته‌اي كه به تجهيزات ويژه‌اي نيازمندند. به همين دليل، مشكلا‌ت و دشواري‌هاي خاص تأمين چنان تجهيزاتي دست كم در بسياري از موارد،  وجود ندارد.
     
    اما درباره نكته  نهفته در سؤال شما كه آثار اين پيشرفت‌ها را كجا مي‌توانيم ببينيم، بايد گفت ممكن است هنوز آثار بسياري از اين فعاليت‌ها، در صنعت، مديريت، درمان و پزشكي و ... عملياتي نشده باشد و اين عملياتي نشدن نه به خاطر اين است كه اين اقدامات صورت نگرفته است، بلكه به اين خاطر است كه در برهه‌اي، وارد بحث‌هاي فني خاصي مي‌شويم.

    مثلا‌ً اين‌كه اگر يك برنامه هوشمند عملا‌ً در نهايت براي عملياتي شدن به يك سخت‌افزار خاص نياز داشته باشد، بايد عناصر لا‌زم براي ساختن اين سخت‌افزار را داشته باشيد. مانند تراشه‌هاي خاص از قبيل تراشه‌هاي عصبي
    (Neuro-Chip) يا عصبي شولا ‌(Neuro-Fuzzy Chip) كه در حال حاضر به عنوان بلوك‌هاي اوليه سيستم‌هاي هوشمند تلقي مي‌شوند. حالا‌ اگر اين‌ها را نداشته‌‌‌باشيم، به معناي آن نيست كه اين اقدامات صورت نگرفته يا حتي پياده‌سازي نشده است. تجزيه و تحليل‌ها، مدل‌سازي‌ها و تست‌ها انجام شده و پياده‌سازي صورت گرفته است. اما ممكن است به مفهومي كه گفته شد، عملياتي نشده باشد.

    در هوش مصنوعي حوزه‌هاي متنوع و گرايش‌هاي متفاوتي وجود دارد. در بين اين حوزه‌هاي مختلف،‌ كدام يك را اثرگذارترين حوزه در صنعت مي‌دانيد؟

    ‌در جواب اين سؤال، بايد پرسيد كه تلقي شما از صنعت چيست. خوشحالم كه چنين سؤالي مطرح شد. كلمهIndustry در لا‌تين به معني تلا‌ش و كوشش است. ريشه كلمه Indust، شايد همان اندوخت فارسي باشد. وقتي شما مي‌اندوزيد، يعني برنامه‌ريزي مي‌كنيد كه از آن اندوخته، در يك مسير هدفمند استفاده كنيد و نوعي پويايي را در محيط بيروني خودتان ايجاد كنيد. اين نشأت و بنيانِ فكري كلماتي مثل Indust و يا اندوخت است. (البته اميدوارم كه زبان‌شناسان، بر من خرده نگيرند. اين‌ها صرفا استنباط‌هاي شخصي اينجانب است و بر صحت آن‌ها تأكيد خاصي ندارم.)

    آنچه بعد از انقلا‌ب صنعتي در يك جامعه تجددگرا و مدرن اتفاق افتاد، اين بود كه تبعات و عقبه اين تلا‌ش‌ها، در قالب فرآورده‌هاي صنعتي نشان داده شد و عمده تلا‌ش و كوشش به سمت و سويي رفت كه آن فراورده‌ يا محصول بتواند قالب ملموسي به خود بگيرد كه به صراحت و شفافيت در جامعه بيروني قابليت كاربري داشته باشد و يا به عبارتي، عيني و ملموس باشد. به اين ترتيب در دوران تجددگرايي،‌تعريف محدودي از Industry داريم. بنابراين‌، اگر منظور شما همان Indstry است كه در كنارش بحث‌هايي از قبيل Industrial Engineering و Industrial Management و ... مطرح مي‌شود، پاسخ خاص خود را دارد، ولي اگر Industry را قدري به مفهوم پساتجدد آن در نظر بگيريم، شايد پاسخ تا حدودي متفاوت باشد.
     
    همين‌جا ناگفته نماند كه بروز انقلا‌ب IT، و به دنبال آن Information and Knowledge Technology و Information and Communication Technology) ICT)، باعث شد كه به شكلي، مفهوم Industry از اين قالب كليشه‌اي كه در واقع موروثه دوران مدرنيزيم بود، خارج شود و مقداري مفهوم آن گستره‌تر و انتزاعي‌تر شود. چون به هر حال شما براي گستردن يك مفهوم، به صعود به مرحله‌اي بالا‌تر از تجريد و انتزاع نياز داريد. در ديدگاه پساتجددگرايي، عينيت به طرف ذهنيت و تجريد سوق پيدا نموده و در اين ماجرا، IT نقش بسياري بارزي را ايفا كرده است.

    ولي چرا  ذهنيت در IT جايگاه ويژه‌اي دارد؟ براي اين‌كه به جرات مي‌توان گفت كهIT اولين فناوري‌اي است كه مقوله تعاملي (Interactive) بودن و ارتباطي (Communicative) بودنِ  كاربر انساني را در سيطره كاركردي سامانه‌ها مطرح مي‌كند. يا به تعبيري،‌آحاد انساني را به عنوان زيرمجموعه‌اي از فناوري مي‌بيند. هيچ فناوري ديگري نبوده است كه كاربر انساني يا عنصر انساني را به عنوان زيرمجموعه خودش ببيند.

    البته در فناوري‌هاي ديگر هم انسان با فناوري تعامل دارد. مثلا‌ً يك واحد توليد برق را در نظر بگيريد. كوچك‌ترين خطاي انساني مي‌تواند آسيب‌هاي زيادي را وارد كند، بله، نقش اپراتور بسيار حساس است. اما به اين نكته توجه داشته باشيد كه جايي كه شما وارد رابطه‌اي مي‌شويد كه متضمن يك تعامل مؤثر، بهينه و ستبر (Robust) بين كاربران انساني و تأسيسات (Plant) مربوطه باشد،  خواه ناخواه ‌وارد فناوري اطلا‌عات شده‌ايد. چرا؟

    دكتر كامبيز بديع، فارغ‌التحصيل دبيرستان البرز است و درجات كارشناسي، كارشناسي ارشد و دوره دكتراي خود را در زمينه مهندسي الكترونيك و برق با گرايش بازشناسي الگو (pattern recognition) از مؤسسه فناوري توكيو دريافت نموده است. ايشان از بدو بازگشت به ايران در مركز تحقيقات مخابرات ايران مشغول به فعاليت بوده و فعاليت‌هاي تحقيقاتي خود را در گروه مهندسي آزمايش بخش رايانه و مخابرات (C&‌C) اين مركز، با تأكيد بر به كارگيري روش‌هاي بازشناسي الگو (PR) و هوش‌مصنوعي (AI) در اشكال‌يابي و اشكال‌زدايي در سامانه‌هاي الكترونيك آغاز نموده است. در اين ارتباط، دكتر بديع، مبدع فنوني بوده است كه در نرم‌افزارهاي مربوط به آزماينده‌هاي خودكار فرآورش يافته در اين گروه عملاً مورد استفاده قرار گرفته، كه در شمار آن‌ها مي‌توان به فنون مورد استفاده در آزماينده ميزان 2000 و 2500  اشاره نمود. ايشان مسئوليت دو پروژه تحقيقاتي كليدي در گروه پژوهشي جامعه اطلاعاتي را نيز عهده‌دار بوده‌است.


    به خاطر اين‌كه براي چنين تضميني، شما به درپاييدن تراكنش‌ها و دادوستدهاي اطلا‌عاتي بين كاربران و آن تأسيسات نياز داريد. درپاييدن (مانيتور كردن) اين تراكنش‌ها نيز، چيزي نيست جز ورود به صحنه فناوري اطلا‌عات.
    حال‌ كه واحدهاي انساني به عنوان زيرمجموعه آن فناوري تلقي شدند، پس روحيات، عواطف، ذهنيت‌ها، دانش‌هاي پس‌زمينه و عوامل ديگر مرتبط با اين انسان‌ها، در جايگاه خود به عنوان آرگومان‌ها و شناسه‌هاي اين فناوري محسوب خواهد شد. منظور از آرگومان، چيزي است كه فناوري به آن بينديشد و به آن اهميت داده وبه‌طور جدي به آن بپردازد. به عبارتي، با در نظر نگرفتن آن‌ آرگومان‌ها، فناوري ممكن است، هرچند با احتمال وقوع پايين، دستخوش تزلزل و خدشه شود.

    آن‌چه به عنوان ذهنيت در كاربران تلقي مي‌شود، مؤلفه‌ها و خصوصياتي است كه در ارتباط انسان با محيط پيراموني خود معنا مي‌يابد. به همين دليل، اگر روند رو به رشد IT را مطالعه كنيد، مي‌بينيد كه بخش عمده‌اي از كارها و تحقيقاتي كه در حوزه دانش و فناوري اطلا‌عات انجام مي‌شود، به مقوله مدلسازي كاربر (User Modelling)  و مبحثي تحت عنوان شخصي‌سازي (Personalization) تخصيص پيدا كرده است؛ چرا كه اگر مدل كاربر انساني و حالا‌ت خاص او در ارائه يك سرويس، اعم  از سرويسي كه مي‌خواهد در اختيار فردي قرار داده شود كه خودش به عنوان يك مهندس با آن سيستم تعامل داشته باشد، يا سرويس‌هايي كه كاربر نهايي و مشتري دارد، به ‌گونه‌اي در نظر گرفته نشود، محيط دچار مشكل خواهد شد.

    ‌‌ محيط دچار چه مشكلي مي‌شود؟
    محيط از بازه‌  اهدافي كه برايش تعريف شده است، دور مي‌شود.

    ‌‌ ‌
    اين بحث در دوران مدرن چگونه مطرح مي‌شد؟
    ‌‌ در دوران مدرنيته به اين موضوعات كمتر توجه مي‌شد. اجازه بدهيد يك مثال بسيار ساده، در همين حوزه AI و فناوري اطلا‌عات، بزنم. اگر سير تكوين مهندسي نرم‌افزار را در دوران مدرنيزم در نظر بگيريد، مي‌بينيد كه عمدتاً اين سير به سمت و سويي بوده است كه يك سيستم پيچيده با ترفندها و شگردهاي خاص خود توسعه داده مي‌شد و اين انسان‌ِ كاربر بود كه بايد خود را با پيچيدگي‌ها و دشواري‌هاي سيستم انطباق بدهد. (اعم از اين‌كه كاربر، برنامه‌نويس يا تحليلگر نرم‌افزار است، يا يك كاربر نهايي).

    پس در دوره مدرنيزم، مهندسي نرم‌افزار بيشتر به صورت سيستم-‌نگر مطرح مي‌شد. مصداق آن هم اين بوده است كه برنامه‌نويس بايد بنشيند و كُد بنويسد. حال،‌ خوب است كه برنامه‌ها از سطح پايين به سطح بالا‌ ارتقا يافتند و برنامه‌نويسان عملا‌ً مجبور نبودند كه با اسمبلي برنامه‌نويسي كنند. دوراني رسيد كه زبان‌هايي مثل ال‌گول، پاسكال، بيسيك، فورترن، كوبل و ... به ميان آمد، اما در ماهيت قضيه تفاوتي نكرد؛ چرا كه انسان برنامه‌نويس ناچار بود تا با تبعيت از يك سري پروتكل‌هاي خاص برنامه‌نويسي كند.
     
    ولي همين كه ما از دوران مدرنيزم قدري وارد پست‌مدرن مي‌شويم، در واقع از زماني كه نگاه‌ها عوض مي‌شود، اتفاقي كه مي‌افتد اين است كه به جاي شيء (Object)، مولفه (كامپوننت) خواهيد داشت؛  مؤلفه‌اي‌شدن محيط برنامه‌نويسي، شما را عملا‌ً به سمت و سويي سوق مي‌دهد كه بتوانيد به عنوان يك برنامه‌نويس يا تحليلگر نرم‌افزاري، از مؤلفه‌هايي كه پيشتر توسعه داده شده و هر كدام در قلمرو خود مزيت‌هاي خاصي را به خود گرفته‌اند، ‌به گونه‌اي براي برنامه‌هاي آتي استفاده كنيد.

    اين امر تا حدودي دغدغه‌ها و مشكلا‌ت را كم مي‌كند. اما، بعد، در كمال شگفتي، وارد دوران عامل‌ها (كارگزارها،
    agents) مي‌شويد؛ با ورود كارگزارهاي نرم‌افزاري به صحنه، حال‌ ديگر قضيه خيلي فرق مي‌كند. يعني اصلا‌ً قرار نيست برنامه‌ها به صورت مستقل توسعه داده شوند.
     
    به جاي آن،  وظيفه كارگزارهاي نرم‌افزاري اين خواهد بود  كه  هر كدام، كار (task) خاص خود را انجام دهند. در واقع در دوران كارگزارهاي نرم‌افزاري، ديگر چيزي به عنوان برنامه‌نويس وجود ندارد. صرفاً كافي است يك آرايه و چيدمان درستي بين عملكرد كارگزارها ايجاد كنيد.

     

     

    منوي اصلي
  • صفحه اصلي
  • فهرست مقالات
  • مطالب جديد
  • خبرنامه
  • نقشه سايت
  • طراحي وب
  • جستجو
  • نسخه جديد سايت
  •  

    مطالب جديد
     

         
    Copyright © 2003 - 2017 by AutoIR iranresearch , All rights reserved. www.iranresearch.com www.iranresearch.ir www.autoir.ir Designed by Ahmad Zeini
    کلیه حقوق مادی و معنوی این سایت autoir.ir می باشد