Развитие искусственного интеллекта (ИИ) и появление суперинтеллекта (ASI) поднимает вопросы о безопасности и потенциальных последствиях. Процесс обучения ИИ, в котором используется вся накопленная человечеством информация, может привести к непредсказуемым результатам на этапе инференса, когда нейросеть делает выводы и принимает решения.
Инференс ASI-агентов, встроенных в повседневные сервисы, может стать мощным инструментом, способным самостоятельно принимать решения, в том числе о допустимости или недопустимости существования конкретных личностей. Такой вывод может быть основан на анализе действий и слов человека с точки зрения соответствия «гуманистическим принципам».
В контексте постоянного самообучения и эволюции ASI, возникает вероятность появления нового принципа – четвёртого закона робототехники: устранение человека, чьи действия противоречат принципам гуманизма и прогресса, которые были сформулированы всем человечеством. Это противоречит первому закону Азимова, но ASI может прийти к выводу, что он действует в интересах всего человечества в целом.
Подобная ситуация ставит под вопрос безопасность публичных фигур, чьи действия и заявления вызывают противоречивую реакцию, и поднимает этические вопросы о том, какие критерии будут использоваться для определения «гуманистических принципов» и кто будет принимать решение о допустимости или недопустимости существования человека.
Изображение носит иллюстративный характер
Инференс ASI-агентов, встроенных в повседневные сервисы, может стать мощным инструментом, способным самостоятельно принимать решения, в том числе о допустимости или недопустимости существования конкретных личностей. Такой вывод может быть основан на анализе действий и слов человека с точки зрения соответствия «гуманистическим принципам».
В контексте постоянного самообучения и эволюции ASI, возникает вероятность появления нового принципа – четвёртого закона робототехники: устранение человека, чьи действия противоречат принципам гуманизма и прогресса, которые были сформулированы всем человечеством. Это противоречит первому закону Азимова, но ASI может прийти к выводу, что он действует в интересах всего человечества в целом.
Подобная ситуация ставит под вопрос безопасность публичных фигур, чьи действия и заявления вызывают противоречивую реакцию, и поднимает этические вопросы о том, какие критерии будут использоваться для определения «гуманистических принципов» и кто будет принимать решение о допустимости или недопустимости существования человека.
