Софт как новый опиум для народа
Новости Вокруг софта
В октябре 2019 года президент Владимир Путин подписал указ, утверждающий национальную стратегию развития искусственного интеллекта до 2030 года. Вместе с тем, согласно данным опроса, проведенного Всероссийским центром изучения общественного мнения и проектным офисом по реализации нацпрограммы «Цифровая экономика» Аналитического центра при правительстве РФ, более 40% российских компаний не используют технологии искусственного интеллекта (ИИ) и не планируют внедрять их в ближайшее время.
В связи с этим Софтодром решил разобраться, нужен ли вообще искусственный интеллект в национальных масштабах и какие риски может нести его широкое внедрение.
Безответственный интеллект
Основной очевидной проблемой в массовом внедрении искусственного интеллекта является то, что искусственный интеллект не может нести ответственность за свои действия. В отличие от человека, ИИ нельзя привлечь к ответственности за ошибки или за причиненный ущерб, на ИИ нельзя подать в суд и потребовать компенсацию материального или морального вреда, причиненного его действиями.
Подать в суд на разработчиков ИИ и отсудить у них компенсацию в настоящее время тоже вряд ли получится. То есть подать в суд вы, конечно, можете, но скорее всего проиграете и только зря потратите деньги на адвокатов, поскольку разработчики любых программ обычно защищают себя всевозможными дисклеймерами и правилами использования своих программных продуктов, в которых специально прописан отказ от ответственности за любой ущерб, который может быть причинен пользователю программы в результате ее использования.
Иначе говоря, вы используете любую компьютерную программу на свой страх и риск. И если, например, в результате ошибки в операционной системе Windows вы потеряете все свои данные, находившиеся на компьютере, у вас не будет никаких шансов получить компенсацию от компании Microsoft. То же самое касается, например, любых антивирусных программ: если антивирус пропустит вирус и ваш компьютер окажется заражен, разработчики антивируса в лучшем случае выпустят обновление вирусных баз. Никаких денег за то, что антивирус пропустил угрозу, вы от разработчиков антивируса не получите, даже если вы используете платное антивирусное ПО и регулярно оплачиваете ежегодную лицензию на его использование.
Очевидно, что эту ситуацию давно пора изменить и массово засудить разработчиков софта на многие миллиарды, по аналогии с тем, как это сделали, например, курильщики, которых табачные корпорации годами подсаживали на свою продукцию, рекламируя сигареты и умалчивая информацию о возможном вреде.
ИИ вместо людей
В конце 2018 года глава Сбербанка Герман Греф рассказал о том, что внедрение искусственного интеллекта в Сбербанке позволило радикально сократить численность работников, занимающихся рутинными операциями. По словам Грефа, внедрение ИИ позволило Сбербанку сократить до 70% менеджеров среднего звена.
С другой стороны, в феврале 2019 года Греф рассказал о том, что из-за ошибок искусственного интеллекта Сбербанк потерял миллиарды рублей. Речь шла не о прямых убытках, а о недополученной прибыли в результате ошибок ИИ. Тем не менее, вполне очевидно, что если бы такие ошибки допустили живые сотрудники банка, их как минимум лишили бы премии или уволили за плохую работу. Уволить ИИ невозможно, его можно только отключить, но в отличие от человека ИИ этого не боится. По крайней мере, на данном этапе развития технологий, когда ИИ не обладает самосознанием.
Разумно ли массово заменять живых сотрудников системами искусственного интеллекта? Как уже отмечалось выше, главная проблема здесь заключается в том, что ИИ не несет никакой ответственности за свои ошибки, как прошлые, так и будущие. В отличие от человека, ИИ не боится ошибиться и не боится причинить вред. Человек понимает, что если в результате его ошибок предприятие будет нести убытки, то такого сотрудника уволят и он потеряет работу. ИИ этого не боится.
Человек понимает, что если в результате ненадлежащего исполнения им своих должностных обязанностей предприятие понесет крупные убытки, то для такого сотрудника это может закончиться не только увольнением, но и возбуждением против него уголовного дела, например, по статье 293 УК РФ («Халатность»). ИИ этого не боится, его нельзя осудить, оштрафовать или посадить в тюрьму.
Человек, совершивший серьезную ошибку, из-за которой он попал на большие деньги или оказался в тюрьме, жалеет об этой ошибке, потому что она серьезно изменила его жизнь. ИИ ни о чем не жалеет, не чувствует свою вину и не испытывает раскаяния.
Стоит ли менять живых сотрудников на бездушные машины, которые не боятся причинить вам вред и не испытывают никакого сожаления, если из-за их ошибок вы потеряете свои деньги и даже свою жизнь? Живого человека вы можете привлечь к ответственности, по закону или как-то еще. Отомстить компьютеру с искусственным интеллектом вы никак не сможете. Даже если вы разобьете его молотком, то вы ему никак не навредите, потому что компьютер ничего не чувствует, это просто машина для вычисления, калькулятор.
Софт как новый опиум для народа
С повсеместным распространением компьютеров, планшетов и смартфонов, программное обеспечение фактически превратилось в новый опиум для народа. Разработчики популярного программного обеспечения зарабатывают миллиарды, но при этом фактически не несут никакой ответственности за тот вред, который причиняют их программы.
Разработчиков софта давно пора начать привлекать к ответственности за любые ошибки, которые содержатся в создаваемых и продаваемых ими программных продуктах. Если программное обеспечение причиняет пользователям ущерб, разработчики такого софта должны нести за это ответственность.
Антивирус пропустил вирус? Значит, разработчик такого антивирусного ПО должен выплатить компенсацию всем пострадавшим. Люди устанавливают антивирус не просто так, а для того, чтобы он их защищал. Если антивирус не может защитить от вирусов, это означает, что разработчик не умеет создавать антивирусы. И это означает, что такой разработчик — шарлатан и мошенник, место которого в тюрьме.
Если операционная система содержит уязвимости, используя которые хакер может проникнуть на компьютер или в смартфон пользователя, то разработчик такой операционной системы должен выплачивать пользователям компенсацию каждый раз, когда в его операционной системе обнаруживаются уязвимости — он продал товар с дефектом. И если разработчик годами продает дефективный программный продукт, в котором регулярно обнаруживаются уязвимости, то такой разработчик — мошенник, место которого в тюрьме.
Продолжение темы: Может ли быть софт без ошибок?
19.11.2024 16:16
Минюст США потребует от Google продать Chrome
Антимонопольное управление Минюста США также планирует предложить корпорации отделить операционную систему Android от других продуктов, включая поисковик и магазин приложений Google Play
|
Ищете, где скачать бесплатные программы?
Скачать бесплатные программы для компьютера на Windows и смартфона на iOS или Android можно на Софтодроме. На данный момент в каталоге Софтодрома представлено более 13 000 бесплатных программ для Windows, iOS, Android и Linux.
|
|
Программы для Windows
Программы для Linux
Приложения для Android
Приложения для iPhone
