Artificial intelligence governance, management and risk management - A look into EU AIA, standards and other frameworks from practical level

This thesis explores the governance of artificial intelligence (AI) through various frameworks, emphasizing the necessity of comprehensive management beyond technical solutions in order to achieve effective and secure AI in a complex socio-technical world. The research posits that AI risks cannot be...

Full description

Bibliographic Details
Main Author: Reivo, Juho
Other Authors: Faculty of Information Technology, Informaatioteknologian tiedekunta, University of Jyväskylä, Jyväskylän yliopisto
Format: Master's thesis
Language:fin
Published: 2024
Subjects:
Online Access: https://jyx.jyu.fi/handle/123456789/98076
Description
Summary:This thesis explores the governance of artificial intelligence (AI) through various frameworks, emphasizing the necessity of comprehensive management beyond technical solutions in order to achieve effective and secure AI in a complex socio-technical world. The research posits that AI risks cannot be mitigated solely through technical means or managed through a singular strategy at a single level. The central hypothesis is that small organizations struggle to meet the demands of prominent AI frameworks, which often overlook the unique situation of these entities and particularly the challenges faced by small public sector organizations. The study highlights how practical level issues within these frameworks may threaten AI adoption. This research examines three key frameworks: the European Union Artificial Intelligence Act (EU AIA), ISO/IEC 42001:2023, and the National Institute of Standards and Technology AI Risk Management Framework (NIST RMF). The primary research question investigates practical risk management issues related to AI governance and human roles within these frameworks. Findings suggest that these frameworks are extensive and challenging for small organizations, particularly in the public sector, which often have limited IT and security resources. The study underscores the importance of selecting and calibrating governance frameworks appropriately, as inadequate frameworks render digital security efforts ineffective. Closer examination is also done in order to clarify structures of frameworks for effective governance and management of AI systems, risks and digital security aspects. Tässä lopputyössä tarkastellaan tekoälyn hallintaa eri viitekehysten avulla ja korostetaan, että teknisiä ratkaisuja laajemman kokonaisvaltaisen hallinnan tarve on tarpeen, jotta tekoäly olisi tehokas ja turvallinen monimutkaisessa sosioteknisessä maailmassa. Tutkimuksessa esitetään, että tekoälyyn liittyviä riskejä ei voida lieventää pelkästään teknisin keinoin eikä niitä voida hallita yksittäisellä strategialla yksittäisellä tasolla. Keskeinen hypoteesi on, että pienillä organisaatioilla on vaikeuksia vastata tunnettujen tekoälykehysten vaatimuksiin, joissa usein jätetään huomiotta näiden toimijoiden erityinen tilanne ja erityisesti julkisen sektorin pienten organisaatioiden kohtaamat haasteet. Tutkimuksessa tuodaan esiin, miten käytännön tason toteutus näissä kehyksissä voivat uhata tekoälyn käyttöönottoa. Tutkimuksessa tarkastellaan kolmea keskeistä kehystä: Euroopan unionin tekoälylaki eli Artificial Intelligence Act (EU AIA), ISO/IEC 42001:2023 ja National Institute of Standards and Technology AI Risk Management Framework (NIST RMF). Ensisijainen tutkimuskysymys tarkastelee käytännön riskinhallinnan kysymyksiä, jotka liittyvät tekoälyn hallintoon ja ihmisten osuuksiin näissä kehyksissä. Tulokset viittaavat siihen, että nämä kehykset ovat laajoja ja haastavia pienille organisaatioille, erityisesti julkisella sektorilla, joilla on usein rajalliset tietojärjestelmähallinto- ja turvallisuusresurssit. Tutkimuksessa korostetaan, että on tärkeää valita ja kalibroida hallintakehykset asianmukaisesti, sillä soveltumattomat kehykset tekevät digitaalisen turvallisuuden ponnisteluista tehottomia. Tarkempaa tarkastelua tehdään myös tekoälyjärjestelmien, riskien ja digitaalisen turvallisuuden näkökohtien tehokasta hallinnointia ja hallintaa koskevien kehysten rakenteiden selventämiseksi.