Безопасность использования когнитивных информационных технологий принятия решений

Глава в книге
DOI: 10.31483/r-98432
Open Access
монография «Экономика и право»
Creative commons logo
Опубликовано в:
монография «Экономика и право»
Автор:
Миронова Н. Г. 1
Рубрика:
Глава 5
Страницы:
112-131
Получена: 25.04.2021

Рейтинг:
Статья просмотрена:
2503 раз
Размещено в:
РИНЦ
1 Институт информатики, математики и робототехники ФГБОУ ВО «Уфимский университет науки и технологий»
Для цитирования:

Аннотация

В работе рассматривается интеллектуальная автоматизация процедур принятия решений и управления, которая внедряется во многие области социально-экономической практики, включая финансово-кредитные бизнес-процессы, в торговлю и электронную коммерцию (профилирование клиентов, маркетинговое микро-таргетирование), телекоммуникации, промышленность (технологический контроль, робототехника, нейроуправление, стратегическое планирование и прогнозирование), а также интеллектуальная автоматизация пришла в бизнес-управление, в государственное управление. Утверждается, что расширяется автоматизация управления персоналом (контроль за соблюдением требований, профилирование и оценка KPI, прогнозирование конфликтов и нарушений), медицине, транспортной отрасли и сельском хозяйстве используется беспилотная техника и другая нейросетевая автоматика. Интеллектуальные технологии приходят в образование (так, в Москве апробируется система предиктивной аналитики цифрового следа учащихся для оптимизации и таргетирования образовательных услуг, помощи ориентации в будущей профессии). Использование когнитивных технологий при создании экспертных, советующих систем, систем поддержки принятия решений дает не только удобства и экономию времени и усилий, но порождает разнообразные организационные, экономические, этические, социальные проблемы, порождая новые риски. В исследовании выполнен обзор интеллектуальных технологий, которые находят применение в социальном управлении, угрозы, связанные с практическим использованием интеллектуальных инструментов автоматизации и поддержки принятия решения, пути и меры снижения некоторых рисков, связанных с указанными угрозами.

Список литературы

  1. 1. Брадул Н.В. Концептуализация понятия «Smart Government»: наукометрический подход / Н.В. Брадул, Э.М. Лебезова // Управленец. – 2020. – Т.11. – №3. – С. 33–45 [Электронный ресурс]. – Режим доступа: http://upravlenets.usue.ru/images/85/3.pdf
  2. 2. Визильтер Ю.В. Сильный искусственный интеллект – наследник человечества. Ч. 2. / Визильтер Ю.В., Козлов А [Электронный ресурс]. – Режим доступа: https://scientificrussia.ru/articles/silnyj-iskusstvennyj-intellekt-naslednik-chelovechestva-chast-2
  3. 3. В Минобороны рассказали о применении искусственного интеллекта в армии [Электронный ресурс]. – Режим доступа: https://ria.ru/20180315/1516469827.html (дата публикации: 3.03.2020).
  4. 4. Громов А. Как Cambridge Analytica «взламывала выборы» по всему миру / А. Громов [Электронный ресурс]. – Режим доступа: https://tass.ru/mezhdunarodnaya-panorama/5048632 (дата публикации: 5.04.2018).
  5. 5. Искусственный интеллект: аналитический сборник // РАНХиГС. – 2020. – №8 – 43 с. [Электронный ресурс]. – Режим доступа: https://www.dropbox.com/s/gstmjuo5fvxxjoq/%D0%98%D0%BD%D0%B4%D0%B5%D0%BA%D1%81-%D0%98%D0%98–2020_%D0%90%D0%BB%D1%8C% D0%BC%D0%B0%D0%BD%D0%B0%D1%85_%E2%84%968_2021–04–14.pdf?dl=0
  6. 6. Касми Э. Россиянина едва не посадили на 8 лет из-за ошибки искусственного интеллекта / Э. Касми // CNews [Электронный ресурс]. – Режим доступа: https://www.cnews.ru/news/top/2020–11–12_rossiyanina_edva_ne_posadili (дата публикации: 12.11.2020).
  7. 7. Королев И. Как искусственный интеллект будут внедрять в здравоохранении, транспорте и сельском хозяйстве / И. Королев [Электронный ресурс] / Режим доступа: https://www.cnews.ru/articles/2021–01–25_kak_iskusstvennyj_intellekt_budut (дата публикации: 25.01.2021).
  8. 8. Королев И. В России будут раскрывать преступления с помощью искусственного интеллекта / И. Королев [Электронный ресурс]. – Режим доступа: https://www.cnews.ru/articles/2021–02–15_v_rossii_budut_raskryvat_prestupleniya (дата публикации: 15.02.2021).
  9. 9. Кузаев М. Особое мнение нейросетей. Как с криминалом борются алгоритмами к ужасу правозащитников / М. Кузаев [Электронный ресурс]. – Режим доступа: https://tass.ru/obschestvo/5941548
  10. 10. Ларина Е.С. Искусственный интеллект. Большие данный. Преступность / Е.С. Ларина, В.С. Овчинский. – М.: Книжный мир, 2018. – 416 с.
  11. 11. Министерства подготовят дорожные карты по внедрению решений на основе искусственного интеллекта. Сайт Правительства России [Электронный ресурс]. – Режим доступа: https://ac.gov.ru/news/page/ministerstva-podgotovat-doroznye-karty-po-vnedreniu-resenij-na-osnove-iskusstvennogo-intellekta-26685 (дата публикации: 24.08.2020).
  12. 12. Минобороны решило сделать тяжелый беспилотник «Охотник» дальним перехватчиком. ТАС [Электронный ресурс]. – Режим доступа: https://tass.ru/armiya-i-opk/9299951 (дата публикации: 27.08.2020).
  13. 13. Носов Н. ЖКХ как арена внедрения интернета вещей / Н. Носов // ИКС. – №3 [Электронный ресурс]. – Режим доступа: https://www.iksmedia.ru/articles/5669547-ZhKX-kak-arena-vnedreniya-interneta.html (дата публикации: 5 июня 2020).
  14. 14. Овчинский В.С. Этика цифровых технологий в полиции / В.С. Овчинский [и др.] // Аналитический доклад «Этика и «цифра»: этические проблемы цифровых технологий». – РАНХиГС [Электронный ресурс]. – Режим доступа: https://ethics.cdto.center/7_4
  15. 15. Официальный портал эксперимента по использованию инновационных технологий в области компьютерного зрения для анализа медицинских изображений и дальнейшего применения в системе здравоохранения города Москвы [Электронный ресурс]. – Режим доступа: https://mosmed.ai
  16. 16. Переслегин С. Если мы не сможем контролировать ИИ, то дальше у нас есть два пути… / С. Переслегин, А. Носков [Электронный ресурс]. – Режим доступа: https://hightech.plus/2019/09/28/esli-mi-ne-smozhem-kontrolirovat-ii-to-dalshe-u-nas-est-dva-puti (дата публикации: 19.10.2019).
  17. 17. Распоряжение Правительства РФ от 19 августа 2020 №2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.» [Электронный ресурс]. – Режим доступа: https://www.garant.ru/products/ipo/prime/doc/74460628
  18. 18. Скрынникова А. Власти определились с искусственным интеллектом в работе чиновников и МЧС / А. Скрынникова, А. Агеева, А. Балашова, П. Канаев [Электронный ресурс]. – Режим доступа: https://www.rbc.ru/technology_and_media/16/12/2020/5fd774869a7947c27f22fe25 (дата публикации: 16.12.2020).
  19. 19. Созыкин А.В. Обзор методов обучения глубоких нейронных сетей / А.В. Созыкин // Вестник ЮУрГУ. – Сер. Выч. матем. информ. – 2017. – Т.6. – Вып. 3. – С. 28–59 [Электронный ресурс]. – Режим доступа: http://www.mathnet.ru/links/645301328891949c4840363cb6c090b2/vyurv170.pdf
  20. 20. Степанян А.И. Предиктивная аналитика в прогностической деятельности полиции современных государств / А.И. Степанян // Вестник Санкт-Петербургского университета МВД России. – 2019. – №4 (84). – С. 43–50 [Электронный ресурс]. – Режим доступа: DOI: 10.35750/2071-8284-2019-4-43-50
  21. 21. Указ Президента РФ от 10 октября 2019 №490 «О развитии искусственного интеллекта в Российской Федерации» [Электронный ресурс]. – Режим доступа: http://publication.pravo.gov.ru/Document/View/0001201910110003
  22. 22. Утверждена Стратегическая карта ФНС России на 2021–2023 годы [Электронный ресурс]. – Режим доступа: https://www.nalog.ru/rn77/news/activities_fts/10675920 (дата публикации: 16 марта 2021).
  23. 23. Шмырова В. Искусственный интеллект Amazon закрыли, когда он понял, что женщины хуже мужчин / В. Шмырова [Электронный ресурс]. – Режим доступа: www.cnews.ru/news/top/2018–10–10_iskusstvennyj_intellekt_amazon_ulichili_v_gendernoj (дата публикации: 10.10.2018).
  24. 24. Шумский С.А. Нужен ли России искусственный интеллект? // Искусственный интеллект. Аналитический сборник. / С.А. Шумский. – М.: ЦНТИ МФТИ, 2019. – 88 с.
  25. 25. AI in Oil and Gas Market – Growth, Trends, and Forecast (2020–2025) [Электронный ресурс]. – Режим доступа: https://www.reportlinker.com/p05881461/AI-in-Oil-and-Gas-Market-Growth-Trends-and-Forecast.html?utm_source=GNW
  26. 26. Angwin J. Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks / J. Angwin, J. Larson, S. Mattu, L. Kirchner [Электронный ресурс]. – Режим доступа: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (дата публикации: 23 мая 2016).
  27. 27. Artificial Intelligence (AI) in Manufacturing Market Worth $27 Billion by 2027 // Exclusive Report by Meticulous Research [Электронный ресурс]. – Режим доступа: ttps://www.globenewswire.com/news-release/2020/03/30/2008236/0/en/Artificial-Intelligence-AI-in-Manufacturing-Market-Worth-27-Billion-by-2027-Exclusive-Report-by-Meticulous-Research.html
  28. 28. Crime prediction for more agile policing in cities – Rio de Janeiro, Brazil // Case study of U4SSC. 2019 [Электронный ресурс]. – Режим доступа: https://www.itu.int/en/publications/Documents/tsb/2019-U4SSC-Crime-prediction-for-more-agilepolicing-in-cities-Rio-de-Janeiro-Brazil/index.html#p=1
  29. 29. Heaven, W.D. Google medical AI accurate in a lab / Heaven, W.D. // MIT Technology review [Электронный ресурс]. – Режим доступа: https://www.technologyreview.com/2020/04/27/1000658/google-medical-ai-accurate-lab-real-life-clinic-covid-diabetes-retina-disease (дата обращения: 20.01.2021).
  30. 30. Rocher L. Estimating the success of re-identifications in incomplete datasets using generative models / Rocher L., Hendrickx J.M., de Montjoye, Y.-A. // Nature Communications. URL: https://www.nature.com/articles/s41467–019–10933–3 (дата публикации: 23 июля 2019).

Комментарии(0)

При добавлении комментария укажите:
  • степень актуальности публикуемого материала;
  • общую оценку (оригинальность и актуальность темы, полнота, глубина, всесторонность раскрытия темы, логичность, связность, доказательность, структурная упорядоченность, характер и достоверность примеров, иллюстративного материала, убедительность выводов);
  • недостатки, недочеты;
  • вопросы и пожелания Автору.