King Charles در نشستی در Dumfries House در Ayrshire هشدار داد که افتادن هوش مصنوعی به دست افراد نادرست میتواند پیامدهایی وجودی و فاجعهبار داشته باشد. این نشست با هدف بررسی راههای استفاده از این فناوری برای کمک به جامعه برگزار شد و نمایندگانی از شرکتهای بزرگ هوش مصنوعی، دولت بریتانیا و نهادهای مذهبی در آن حضور داشتند.
Kanishka Narayan، وزیر هوش مصنوعی بریتانیا، مشاور Pope و نمایندگان Nvidia، OpenAI و Anthropic از شرکتکنندگان این نشست بودند. King Charles گفت افرادی که این فناوریها را ساختهاند، اکنون درباره احتمال شکلگیری تواناییهای خطرناکتر در هوش مصنوعی، از جمله توانایی گرفتن جان انسان، هشدار میدهند.
King Charles تأکید کرد که باید با فوریت، خطرهای وجودی فناوریهایی که ممکن است به دست افراد نادرست بیفتند بررسی شود. او گفت هدف فعالان این حوزه نباید فقط پیشرفت فناوری باشد، بلکه باید اطمینان حاصل کنند که هوش مصنوعی در خدمت انسان، جامعه و جهان طبیعی باقی میماند.
Jensen Huang، مدیرعامل Nvidia، در این نشست گفت ایمنی باید اولویت اصلی شرکتها باشد. او افزود اگر محصولی به اندازه کافی ایمن نیست، شرکتها باید عرضه آن را متوقف کنند و به توسعه و آزمایش بیشتر ادامه دهند. Huang همچنین از مدلهای باز حمایت کرد؛ مدلهایی که دسترسی مستقیمتری به نرمافزار میدهند و میتوانند به پژوهشگران، دانشگاهها، شرکتهای نوپا و کشورها امکان توسعه کاربردهای تازه را بدهند.
Sir Demis Hassabis، یکی از بنیانگذاران DeepMind، دیدگاه محتاطانهتری درباره سرعت پیشرفت فناوری ارائه کرد. او گفت هوش عمومی مصنوعی، یعنی سامانههایی که ممکن است در چندین کار به اندازه انسان یا بهتر از او عمل کنند، احتمالاً تنها چند سال با تحقق فاصله دارد و میتواند اثری دهبرابر انقلاب صنعتی داشته باشد. Hassabis احتمال وقوع خطا را «قطعاً غیرصفر» دانست، اما گفت میتوان با همکاری جمعی و اختصاص زمان کافی، خطرها را کاهش داد.
برای ساکنان بریتانیا، نتیجه عملی این نشست آغاز تلاش برای تدوین مجموعهای مشترک از اصول درباره کاربرد آینده هوش مصنوعی است. همزمان، بحث درباره نظارت دولتی، ایمنی محصولات و مسئولیت شرکتهای فناوری همچنان ادامه دارد.
منبع: BBC News
