|  درخواست عضويت  |  رمز خود را فراموش کرده ايد؟  |  ورود اعضا [Sign in]
جستجوي پيشرفته مطالب   |  
 جستجو:  
روزنامه شرق98/2/23: سياست ها و پيامد هاي اقتصادي هوش مصنوعي
magiran.com  > روزنامه شرق >  فهرست مطالب شماره
مشخصات نشريه
آخرين شماره
آرشيو شماره هاي گذشته
جستجوي مطالب
سايت اختصاصي
تماس با نشريه
شماره جديد اين نشريه
شماره 3471
چهار شنبه 19 تير 1398


 راهنمای موضوعی نشريات
اين نشريه در گروه(های) زير قرار گرفته است:

?????


 
MGID2387
magiran.com > روزنامه شرق > شماره 3426 23/2/98 > صفحه 4 (اقتصاد) > متن
 
      


سياست ها و پيامد هاي اقتصادي هوش مصنوعي


نويسنده: دكتر اسفنديار جهانگرد

پيشرفت هاي زيادي در سال هاي اخير در مباحث فني و تكنيكي هوش مصنوعي اتفاق افتاده است. اين فناوري مانند برق، اينترنت و ماشين بخار يك تكنولوژي با هدف عمومي است كه تمركز زيادي بر يادگيري و توسعه ماشيني دارد و متغيرهاي مهمي مانند بهره وري، رشد اقتصادي، نابرابري، قدرت بازار، نوآوري و اشتغال در اقتصاد از آن متاثر هستند. در سال 2015 كاخ سفيد گزارشي 

مبني بر قدرت تاثيرگذاري اين فناوري تهيه كرد كه در سال 2018 منجر به سياست هايي براي ميانجيگري هوش مصنوعي در اقتصاد ايالات متحده شد. دولت هاي فرانسه و چين نيز آن را در اولويت خود قرار داده اند. حال در كشور ما بايد چگونه با اين فناوري برخورد كرد. براي اين منظور ابتدا بايد ابعاد اين فناوري و كاركرد هاي آن شناخته شود. اين نوشتار به عنوان يك بحث مقدماتي مي كوشد تصويري از ابعاد آن براي شناخت و چگونگي تاثير آن بر اقتصاد ارائه دهد تا شرايط براي تصميم گيري و سياست گذاري سهل تر شود. براي اين منظور بحث در دو بخش سياست هاي اقتصادي و پيامدهاي اقتصادي هوش مصنوعي تنظيم و منتشر مي شود. بخش اول شامل سياست ها را در ادامه مي خوانيد و بخش دوم شامل پيامدها در شماره هاي بعدي «شرق» منتشر خواهد شد.

هوش مصنوعي به عنوان يك فناوري با هدف عمومي

تاثير اقتصادي كامپيوتر هوشمند مي تواند آنچه باشد كه انسان به شكل خارق العاده انجام مي دهد. ديكشنري آكسفورد هوش مصنوعي را «نظريه و توسعه سيستم هاي كامپيوتري كه قادر به انجام و كاركرد وظايف مورد نياز به هوش انساني است» تعريف كرده كه اين تعريف هم وسيع و هم روان است. دراين باره يك جوك قديمي بين دانشمندان كامپيوتري وجود دارد و آن اين است كه هوش مصنوعي چيزي است كه ماشين ها هنوز نمي توانند انجام دهند.

در سال هاي اخير يادگيري ماشين خيلي نقل محافل شده است. عقيده بر اين است كه كامپيوترها از داده ها نسبت به انسان ها كه درگير وظايف متعدد هستند، بهتر «ياد مي گيرند»؛ مثل اينكه افراد «صورت هاي» هم نوعان را خوب سازماندهي مي كنند؛ اما براي آنها مشكل است كه اين مهارت را توضيح دهند. با تمركز بر داده ها شامل نام و تصوير، يادگيري ماشيني اين مشكل را حل مي كند و مي تواند با الگوسازي داده هاي تصويري آن را به نام افراد تطبيق دهد. اقتصاددانان در موضوعات مشابهي شامل رگرسيون چندگانه، تحليل عاملي، تخمين حداكثر راست نمايي، مدل هاي ماركف، شبكه هاي عصبي، يادگيري عميق و هويت يادگيري نيز از يادگيري ماشين استفاده كرده و مي كنند.

دراين باره تفاوت هاي وجود دارد به گونه اي كه موضوعات اقتصادسنجي بر عليت استنتاج ها تمركز دارند، درحالي كه يادگيري ماشيني بر پيش بيني تمركز كرده است. وقتي داده ها زياد باشند، مشكلات قديمي در پيش بيني و همچنين يادگيري عميق با تكنيك هاي بهتري انجام مي شود؛ بنابراين هزينه پيش بيني و سازماندهي در ماهيت كارها با هوش مصنوعي كاهش مي يابد.

پيش بيني هاي بهتر باعث پيامدهاي بهتر مي شود به دليل آنكه پيش بيني اساس تصميم سازي و تصميم گيري بشر است. هوش مصنوعي به عنوان فناوري با هدف عمومي بر بهره وري و استاندارد زندگي بشر در هر دوره موثر است. اين موضوع با مقايسه رشد بهره وري نيروي كار و قدرت جابه جايي در 50 سال اخير با ورود فناوري اطلاعات موثر بوده است و هوش مصنوعي در اين موضوع نقش مهمي دارد. دراين باره ولاديمير پوتين، رئيس جمهور روسيه، عنوان مي كند «هركسي رهبر اين حوزه شود، حاكم جهان خواهد شد».

در اين زمينه بسياري از اين فرصت ها در علم و نوآوري نمود دارد. درحال حاضر يادگيري ماشين به بسياري از موضوعات علمي خارج از علم كامپيوتر تسري يافته است. آمار و ارقام هم اين موضوع را تاييد مي كند و ميزان استفاده از يادگيري ماشين در علوم خارج كامپيوتر با شيب تندتري افزايش يافته است كه اين موضوع مويد فناوري با ويژگي هدف عمومي هوش مصنوعي است؛ بنابراين تاثير زيادي بر شتاب رشد اقتصادي و طرف عرضه اقتصاد خواهد گذاشت. اين موضوع در سه زمينه منطق نمادي، رباتيك و يادگيري ماشين مصداق دارد. در ادبيات اقتصادي امروز، هوش مصنوعي به عنوان يك نهاده توليد انديشه است؛ بنابراين به اين دليل مي تواند باعث ايجاد رشد نمايي بدون يك افزايش در تعداد انديشه هاي خلق بشري شود. بيشتر مطالعات تاكنون بر يادگيري ماشين تمركز داشته اند و تمركز كمتري بر تاثير فناوري هوش مصنوعي دارند. دراين باره برخي ادعا مي كنند بايد هفت سال منتظر ماند؛ اما برخي معتقدند است تا سال 2040 هوش مصنوعي عمومي قابل دسترسي است. برخي هم يك دوره 30 تا 70 ساله را براي گسترش هوش مصنوعي عمومي پيش بيني مي كنند و عده اي هم معتقدند اين هرگز اتفاق نمي افتد.

چالش مهم موسسات با گسترش هوش مصنوعي، حفظ توانايي ها و نيازهاي يك جهان با هوش مصنوعي است. برخي بر تجربيات تاريخي فناوري با هدف عمومي متمركز مي شوند؛ اما در تغييرات سريع هوش مصنوعي بر اقتصاد، ممكن است تجربيات تاريخي مفيد نباشد. برخي هم معتقدند اگر يادگيري ماشين با بسياري از پيشرفت هاي ديگر تركيب شود، در طيف وسيعي از برنامه ها از آن استفاده مي شود و استفاده از تاريخ بسيار مناسب و مفيد خواهد بود. اگر ماهيت هوش مصنوعي عمومي محتمل باشد، مي توان بر آن به عنوان يك فناوري با هدف عمومي و به عنوان يك پتانسيل تمركز كرد.

سياست هاي گسترش هوش مصنوعي

اصولا سياست ها بر نرخ بهبود هوش مصنوعي، سرعت انتشار و ماهيت فناوري موثر هستند. مشاهدات اخير حاكي از آن است كه حمايت هاي تحقيقاتي و حفظ حقوق مالكيت معنوي براي هوش مصنوعي، مشابه پيشرفت ديگر فناوري هاست. با اين حال سه دسته سياست مهم ديگر شامل حريم خصوصي، تجارت و مسئوليت در انتشار و توسعه هوش مصنوعي به گونه متفاوتي نسبت به ديگر نوآوري هاي فناورانه موثر هستند كه در ادامه به آنها پرداخته مي شود.

حريم خصوصي

داده ها در هوش مصنوعي نهاده اي كليدي هستند. يادگيري ماشين با استفاده از داده ها، قادر به پيش بيني آنچه افراد ممكن است تحت تاثير آن باشند يا انجام دهند، است. اين موضوع باعث نگراني هاي امنيتي مي شود. در اين باره حريم خصوصي به سه دليل چالش برانگيز است:

ذخيره سازي ارزان به اين مفهوم كه داده ها مدت طولاني تري نسبت به توليد داده ها از سوي شخص باقي مي مانند.غيررقابتي كه به اين مفهوم است كه از داده ها ممكن است در مواردي غير از موضوع اصلي توليدشده استفاده شود.اثرات خارجي به اين مفهوم كه توليد اطلاعات وارده درباره يك نفر، شامل اطلاعات و داده هاي ديگران نيز هست.

بنابراين جمع آوري و استفاده از اطلاعات ممكن است به افرادي كه از جمع آوري و استفاده از اطلاعات و داده ها آگاهي نداشته باشند، زيان وارد كند. در نتيجه همان طور كه جمع آوري و استفاده از آمار ها بهبود يافته است، سياست گذار بايد توجه بيشتري به قواعد و مقررات جمع آوري، ذخيره سازي و استفاده از داده ها كند. در فعاليت هاي داده محور، مقررات حفظ حريم خصوصي بر نرخ، ميزان و جهت نوآوري موثر است. حفاظت كم از حريم خصوصي، به اين مفهوم است كه مصرف كننده ممكن است ناخواسته در مبادلات بازار مشاركت كند كه داده ها و اطلاعات آن به خودش آسيب وارد كند. مقررات حفاظت از حريم خصوصي ديگران نيز به اين مفهوم است كه بنگاه نمي تواند از داده ها براي نوآوري استفاده كند. شواهد تجربي درباره تنظيم حريم خصوصي، بر هوش مصنوعي متمركز نبودند؛ اما مشاهده هاي تجربي به طور گسترده در تاريخ نشان مي دهد تلاش دولت ها براي تنظيم حريم خصوصي، باعث كاهش نوآوري شده است. در اين باره اين مسئله مطرح است كه قوانين اروپايي باعث كاهش حدود 65 درصد اثربخشي آگهي ها نسبت به آگهي هاي آمريكايي شده است؛ يعني نحوه مقررات گذاري براي استفاده از داده در اروپا، باعث كاهش توانايي تبليغ كنندگان اروپايي شده است. بسياري از كمپاني هاي ارزشمند بين المللي امروزه پلتفرم هاي آگهي و تبليغ هستند (مثل فيس بوك، گوگل و...). مزاياي حفظ حريم خصوصي در اينها باعث ايجاد هزينه براي شركت هاي محلي در اين فعاليت ها مي شود. دراين باره بايد توجهي جدي به استارت آپ هاي جديد و خروجي اين فناوري ها در كشورهاي در حال توسعه مثل ايران شود. در حوزه بهداشت و سلامت، حفظ حريم خصوصي باعث كاهش امنيت بر پرونده هاي پزشكي افراد مي شود. فناوري هاي طول زندگي مزاياي درخور توجهي براي سلامتي فراهم مي كنند. در مجموع مطرح مي شود كه تنظيم مقررات حفظ حريم خصوصي افراد در حوزه سلامت، باعث كاهش پيامدهاي سلامت و همچنين باعث كاهش انتشار فناوري هاي متكي بر داده در اين حوزه شده است. اگر حفظ حريم خصوصي حقوق بنيادين مدني است، پس بايد تمايل به مبادله چيزي در برابر آن داشته باشيم؛ در غير اين صورت، يك ارزش كمي براي اين حقوق در نظر گرفته ايم. در حالي كه تحقيقات هنوز بر سياست هاي حفظ حريم خصوصي و نوآوري هوش مصنوعي تمركز نكرده اند، روشن است اين سياست ها بر انتشار هوش مصنوعي موثر هستند. با توجه به گسترش اين موضوع در ايران، دولت بايد فكري به حال حريم خصوصي از قبل قوانين و مقررات و بستر گسترش اين فناوري در كشور كند و غافلگير نشود.

تجارت

برخي كشورها سرمايه گذاري در هوش مصنوعي را به عنوان موضوعي استراتژيك تلقي كرده اند. براي مثال چيني ها افزايش درخور ملاحظه اي در نوشتن مقاله هاي علمي در حوزه هوش مصنوعي در كنفرانس هاي بزرگ دنيا نسبت به دانشمندان اروپايي، استراليايي و كانادايي داشته اند. سياست هاي تجاري در هوش مصنوعي عمدتا در توافق نامه هاي تجاري نمود پيدا مي كند. سياست حفظ حريم خصوصي در كشورها متفاوت است، بر اين اساس اين سياست باعث تاثير بر انتشار نسبي هوش مصنوعي در كشورهاست. اگر سياست حفظ حريم خصوصي مطلوب براي انتشار هوش مصنوعي در كشوري كم باشد، باعث ايجاد مزيتي كوتاه مدت براي آن كشور مي شود. مقياس اقتصادي در داده ها و پتانسيل يادگيري باعث ايجاد انگيزه ها براي به وجود آمدن «مسابقه رو به پايين» در سياست هاي حفظ حريم خصوصي مي شود. بنابراين كشورها سياست هاي كمتري را براي حوزه حريم خصوصي در راستاي تقويت انتشار و نوآوري در هوش مصنوعي به كار مي گيرند. چنين سياست هايي قبلا در بازار كار و محيط زيست و نيروهاي مشابه در دنيا تجربه شده است. 

اروپا در سياست هاي حفظ حريم خصوصي سخت تر از ايالات متحده عمل كرده و مي كند، در عوض ايالات متحده قاطع تر از چين است و اين موضوع مي تواند در ساخت و توليد انواع هوش مصنوعي با استفاده از داده ها در كشورهاي مدنظر متفاوت باشد.

در سياست هاي تجاري، موافقت نامه هاي تجاري مي توانند با تعيين استانداردهاي بين المللي حفظ حريم خصوصي، مسابقه رو به پاييني را مانند استانداردهاي بازار كار و محيط زيست در سطح جهان به وجود آورند. اين چنين، سياست هاي تجاري استاندارد بين المللي مي توانند بر نرخ و جهت نوآوري موثر باشند، اما مزيت كوتاه مدت را براي هر كشور از بين مي برند و روشن نيست چگونه بر رشد اقتصادي و بهره وري موثرند؟ برخي كشورها كه حمايت هاي سخت از حريم خصوصي دارند، مي توانند بر ديگر فعاليت ها تمركز كنند. براي مثال در قرن نوزدهم در سوئد براي نوآوري بر اسرار تجاري تمركز كردند و حمايت از ثبت اختراع در آن كشور ضعيف بود. مهارت در ساخت ساعت هاي سوئيسي به آساني قابل تقليد نيست. برخي محققان نشان داده اند كه در مدل هاي استراتژيكي تجاري، مسابقه رو به پايين، زماني قابليت اجرائي پيدا مي كند كه رانت فناوري در سطح كشور وجود داشته باشد.

سياست هاي ديگري در حوزه تجارت قابل اجرا هستند كه در برخي موافقت نامه هاي تجاري آمده باشد و شامل قوانين مربوط به محلي سازي داده ها، محدوديت دسترسي به داده هاي دولتي، مقررات فعاليت ها (مثل مواردي كه در هواپيماهاي بدون سرنشين و خودروهاي بدون سرنشين استفاده مي شود و مسائلي كه مربوط به دسترسي منابع كدها است). سوال كليدي درباره هوش مصنوعي اين است كه آيا سرريزي محلي از هوش مصنوعي وجود دارد يا اينكه منافع انتشار فناوري به اندازه كافي گسترده است كه ورود آزاد براي هر پتانسيل بالقوه را فراهم كند. به طوركلي سياست هاي تجاري تا آنجا كه سطح رانت هاي فناوري براي كشوري سودمند باشند، در مورد هوش مصنوعي موثر است. عملكرد برخي دولت هاي دنيا حاكي از آن است كه منافع دانشي هوش مصنوعي به قدر كافي بزرگ خواهد بود. سرمايه گذاري برخي كشورها مثل فرانسه و چين نشان مي دهد كه اين كشورها انتظار دارند منافع دانشي محلي اين فناوري بزرگ باشد. بسياري از شركت هاي خصوصي بزرگ دنيا روي هوش مصنوعي سرمايه گذاري زيادي انجام دادند. يادگيري ماشيني باعث بهبود در داده هاي بيشتر مي شود و بنابراين شركت هاي بزرگ و كشورهاي بزرگ تر منافع بيشتري به دست مي آورند.

از طرف ديگر سرعت انتشار سريع جغرافيايي تحقيقات و نوآوري هوش مصنوعي نشان مي دهد كه ممكن است رانت هاي محلي وجود نداشته باشد. برنامه هاي كاربردي تجاري اغلب از محل اختراعات فاصله گرفته اند. سالانه هزاران نفر از الگوريتم هاي يادگيري ماشيني از كدهاي باز استفاده مي كنند. علاوه برآن به لحاظ فني، بازدهي كاهنده در مقياس در داده ها به دليل آنكه افت در پيش بيني ها با مجذور ريشه nام بهبود مي يابد، اتفاق مي افتد.

كاربرد صنعتي هوش مصنوعي هنوز دوران كودكي خود را سپري مي كند و ميزان رانت محلي هوش مصنوعي هنوز روشن نيست. بااين حال با توجه به سرمايه گذاري دولت ها در هوش مصنوعي احتمال دارد يك مسابقه رو به پايين شروع شود كه اين مسئله احتمالا در موافقت نامه هاي تجاري آينده ديده مي شود.

مسئوليت

برخي محققان حال حاضر دنيا تاكيد مي كنند كه پيشرفت هاي سريع در هوش مصنوعي و رباتيك باعث به وجود آمدن بحث هاي پرجنب و جوشي در استفاده از قانون جريمه در اين فناوري ها شده است. جريمه اقدامي است كه به دليل آسيب و زيان مطرح مي شود و باعث ايجاد مسئوليت قانوني براي هر فردي است كه اين عمل را مرتكب شده است. هدف از ايجاد سيستم جريمه اين است كه مردم و شركت ها از آسيب رساندن به ديگران پرهيز كنند و آسيب ها را جبران كنند.

 دراين باره پورتر (1990) مطرح مي كند كه ريسك هاي مسئوليت باعث كاهش نوآوري در آمريكا شده است. او بحث مي كند چون ميزان جريمه مسئوليت بسيار بالاست، بنگاه ها باوجود داشتن منفعت زياد، كمتر دنبال نوآوري مي روند و خطر و ريسك دريافت جريمه را تقبل نمي كنند. شواهد تجربي درباره مسئوليت بسيار متفاوت از هم هستند. اقتصادداناني معتقدند كه رابطه بين مسئوليت و تحقيق و توسعه در سطح فعاليت ها (به جز موارد با ريسك زياد) مثبت است. در موارد با ريسك زياد نياز به سرمايه گذاري بيشتر در فناوري هاي بهبود امنيتي بالا است. نتايج برخي تحقيقات نشان مي دهد كه كاهش خطر جريمه باعث كاهش نوآوري در دستگاه هاي پزشكي مي شود.

براي هوش مصنوعي تعادل حق مسئوليت در گسترش آن اهميت زيادي دارد . در غياب قوانين شفاف مسئوليت براي محصولات هوش مصنوعي كه بسياري از بنگاه هاي اقتصادي درگير آن هستند، ممكن است شركت ها در هوش مصنوعي سرمايه گذاري نكنند. براي مثال در توليد خودروهاي خودكار، بنگاه هاي متعددي مانند توليدكنندگان سنسورها، ارائه دهندگان خدمات مخابراتي، توليدكنندگان وسايل نقليه و توسعه دهندگان نرم افزارهاي هوش مصنوعي ورود دارند. بدون مشخص كردن حق مسئوليت شفاف درباره عملكرد ناقص يا معيوب خودروها در هر زمينه، همه بنگاه ها ممكن است از سرمايه گذاري در توليد اين خودروها دريغ كنند.

در زمينه مراقبت هاي بهداشت و سلامت، جراحي رباتيك و تشخيص هاي مبني بر يادگيري ماشين ممكن است باعث انتقال مسئوليت مراقبت هاي بهداشتي و سلامتي به سمت ابزارهاي صنعتي شود. به همين دليل در بودجه 2017، پارلمان اروپا قوانين و مقررات اتحاديه اروپا را درباره ربات هاي پيشرفته و پيچيده، ربات ها، اندرويدها و ديگر وجوه هوش مصنوعي تنظيم و تصويب كرد. آمريكا هم در سپتامبر 2017 قوانين مسئوليت براي وسايل نقليه خودكار را تصويب كرد.

 در اين باره اريب هاي الگوريتمي بيشتر از ديگر مواردي است كه مسئوليت مي تواند بر ماهيت و انتشار هوش مصنوعي موثر باشد. شواهد تاكيد مي كنند كه پيش بيني هاي مبتني بر هوش مصنوعي نسبت به پيش بيني هاي بشري كمتر اريب دارند اما هنوز آموزش براي خلق داده ها توسط انسان انجام مي شود؛ بنابراين پيش بيني هاي مبني بر هوش مصنوعي اين اريب ها را از خود بروز خواهند داد.

علاوه بر آن تصميم گيري هاي مبني بر هوش مصنوعي بسيار آسان تر از تصميم گيري مبتني بر انسان است و اين موضوع نيز دعاوي زيادي را درباره مسئوليت باز مي كند. الگوريتم ها هم مي توانند اريب داشته باشند؛ حتي زماني كه بنگاه ها قصدي در آنها نداشته باشند آموزش داده ها به طور وضوح اريب ها را نشان نمي دهد. در اين باره نتايج برخي تحقيقات نشان داده است كه آگهي هاي بدون آموزش علم، تكنولوژي، مهندسي و رياضيات، در فيسبوك و توييتر بيشتر به سمت مردان است تا زنان و اين مويد اريب در فيلدهاي علم، تكنولوژي، مهندسي و رياضيات است. آنها نشان دادند كه اين تفاوت ناشي از قيمت آگهي بوده و هيچ گونه اريب صريحي وجود نداشته است. به ويژه الگوريتم هاي قيمت گذاري پويا، قيمت آگهي هاي مربوط به زمان را بالاتر از مردان تنظيم مي كند و بنابراين اين الگوريتم ها به گونه اي برنامه ريزي شده اند كه صرفه جويي پولي براي مردان بيشتر از زنان در مورد هر دلار باشد. بنابراين در چنين شرايطي، بنگاه ها درباره خطر مسئوليت ها كار دشواري دارند. چنين ريسك هايي باعث بازدارندگي براي پذيرش هوش مصنوعي مي شوند؛ به ويژه در شرايطي كه الگوريتم ها منحرف شوند. به طوركلي با دخالت انسان هم اين الگوريتم ها براي بنگاه ها در مورد ريسك مسئوليت چندان مقبول نيستند.


*هيت علمي دانشكده اقتصاد دانشگاه علامه طباطباييسياست ها و پيامد هاي اقتصادي هوش مصنوعي


 روزنامه شرق، شماره 3426 به تاريخ 23/2/98، صفحه 4 (اقتصاد)

لينک کوتاه به اين مطلب:   
 


    دفعات مطالعه اين مطلب: 94 بار
    

 

 
 
چاپ مطلب
ارسال مطلب به دوستان

معرفی سايت به ديگران
گزارش اشکال در اطلاعات
اشتراک نشريات ديگر



 

اعتماد
ايران
جام جم
دنياي اقتصاد
رسالت
شرق
كيهان
 پيشخوان
فصلنامه بينات
متن مطالب شماره 3-4 (پياپي 96)، پاييز و زمستان 1396را در magiran بخوانيد.

 

 

سايت را به دوستان خود معرفی کنيد    
 1397-1380 کليه حقوق متعلق به سايت بانک اطلاعات نشريات کشور است.
اطلاعات مندرج در اين پايگاه فقط جهت مطالعه کاربران با رعايت شرايط اعلام شده است.  کپی برداري و بازنشر اطلاعات به هر روش و با هر هدفی ممنوع و پيگيرد قانوني دارد.
 

پشتيبانی سايت magiran.com (در ساعات اداری): 77512642  021
تهران، صندوق پستی 111-15655
فقط در مورد خدمات سايت با ما تماس بگيريد. در مورد محتوای اخبار و مطالب منتشر شده در مجلات و روزنامه ها اطلاعی نداريم!
 


توجه:
magiran.com پايگاهی مرجع است که با هدف اطلاع رسانی و دسترسی به همه مجلات کشور توسط بخش خصوصی و به صورت مستقل اداره می شود. همکاری نشريات عضو تنها مشارکت در تکميل و توسعه سايت است و مسئوليت چگونگی ارايه خدمات سايت بر عهده ايشان نمی باشد.



تمامي خدمات پایگاه magiran.com ، حسب مورد داراي مجوزهاي لازم از مراجع مربوطه مي‌باشند و فعاليت‌هاي اين سايت تابع قوانين و مقررات جمهوري اسلامي ايران است