Искусственный интеллект. Большие данные. Преступность. Владимир Овчинский
Читать онлайн книгу.
противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».
Эти три закона и являются этикой роботов и ИИ. Однако самонадеянные программисты, разработчики и деловые люди забыли об Айзеке Азимове. Сегодня не существует этики ИИ или роботов. Программы, написанные для экспертных систем или робототехники, не включают встроенные ограничители и не учитывают три закона робототехники Азимова.
Существует три принципиально разных типа реальных этических проблем, связанных с применением ИИ и неразрывно связанной с ним робототехники. Это:
• этические вопросы программирования ИИ;
• этические вопросы результатов и выводов, полученных ИИ;
• этические вопросы действия людей, принимающих решения на основе информации ИИ, а также автоматизированных робототехнических устройств, управляемых ИИ.
Практически каждая программа и приложение, тем более такие сложные как программы ИИ, содержат много ошибок. Часть из них устраняется в процессе эксплуатации, часть – остается необнаруженной в течение всего жизненного цикла программно-аналитического комплекса.
Ошибки при программировании бывают двух типов. Первый порожден некачественным кодом, т. е. просчетами и недостаточной квалификацией программистов. Здесь никаких этических проблем и вопросов юридического характера не возникает. Если программист ошибся, и его ошибки привели к тяжелым последствиям для отдельных граждан или компаний, то он несет административную или юридическую, вплоть до уголовной, ответственность. Согласно статистике в 2015 г. более 60 % открытых ФБР и полициями штатов дел, связанных с компьютерными преступлениями, было связано с деятельностью хакеров, а почти 15 % – с ошибками программистов и разработчиков, приведших к имущественному и иному ущербу. Это самая простая проблема. Она превратилась в рутину.
Второй тип ошибок гораздо более коварен. В его основе лежат неверные алгоритмы. Алгоритм представляет собой математически записанную последовательность операций и правил. Составители алгоритмов и программисты – это разные люди. Программист пишет кодом алгоритм, после чего последний превращается в работающую программу.
Главная проблема состоит в том, что алгоритмисты – это в 90 % случаев математики. Причем подавляющее число из них не имеет второго образования, и испытывают определенные сложности в общении с представителями гуманитарных знаний и профессий, включая юристов, врачей, экономистов, правоохранителей. Суть алгоритма состоит в построении цепочки действий на языке математики тех правил и закономерностей, которые сложились в реальной деятельности. Однако из-за того, что алгоритмисты и предметные специалисты зачастую не понимают друг друга, возникают ошибки в алгоритмах.
Вторая группа этических проблем связана с интерпретацией результатов программ человеком или автономным автоматизированным устройством.