Bevezetés
A mesterséges intelligencia (MI) napjainkra valósággá vált, és nagyon is valós és mély hatást gyakorol mindennapi életünkre, megváltoztatja életmódunkat is. A robotok és az intelligens gépek már régóta nem csak fikciók.[2]
Az utóbbi években a büntetőeljárási jog és a forenzikus tudomány aktívan tárgyalja a mesterséges intelligencia ( MI) alkalmazásának lehetőségeit. Az MI fogalma nem épült be a jogszabályokba, hanem olyan tudományos elméletek, technikák és módszerek formájában jelenik meg, amelyeknek egy közös jellemzőjük van – nevezetesen az emberi kognitív képességek számítógép segítségével történő leképezése.[3] A jövőről való gondolkodás ezen a téren nagyrészt a tényfeltárás tudományossá válásával azonos.[4] Napjainkban ez a korábban csak be-belopakodó tudományosság azonban már áradatszerűen ömlik, tekintettel arra, ahogyan a legkülönbözőbb tudományágak jogtudósai küzdenek a tudományossággal kapcsolatos kérdésekkel az igazságszolgáltatásban.[5]
De vajon az is elképzelhető-e, hogy emberszerű robotok vagy gépek szakvélemény tételére képesek a bíróságon, és segítik a bírót a döntéshozatalban? Egyes országokban a közszféra szervei használhatják a mesterséges intelligenciát például előrejelző rendőrségi feladatok ellátására, vagy nyugdíjkifizetésekhez, lakhatási támogatásra vagy munkanélküli-segélyre való jogosultságról szóló döntések meghozatalára. A magánszektorban a mesterséges intelligencia felhasználható például a munkára jelentkezők kiválasztására, a bankok esetén pedig például annak eldöntésére, adjanak-e hitelt az egyes fogyasztóknak, és meghatározzák számukra a kamatlábakat.[6]
Ez a tanulmány azokat a helyzeteket tárja fel és vizsgálja meg, amelyekben a csúcstechnológiás mesterséges intelligenciát szakértőként lehetne vagy már használják is a bírósági tárgyalás, nevezetesen a bizonyítás során, figyelembe véve a kontradiktórius és az inkvizitórius bizonyítási rendszerek különbségeit. Kitér az MI-szakértők és az emberi szakértők közötti különbségekre, kiemelve az MI egyes bírósági alkalmazásával kapcsolatos kérdéseket. Az elemzésben tágabb kontextusban helyet kapnak a mesterséges intelligencia alkalmazásának veszélyei és lehetőségei is. A cikk központi kérdése voltaképpen az, hogy a mesterséges intelligencia miként illeszkedhet a szakértői bizonyítást végző szakértők közé az egyes igazságszolgáltatási rendszerek jellemzőiből kiindulva.
A kérdés jelentősége abban áll, hogy egyrészt a döntéshozatal mentális folyamatai továbbra is átláthatatlanok, másrészt azok a jogi diskurzus központi részét képezik.[7] Még a bíróságon a gépi bizonyítékok magyarázatára felkért szakértők is korlátokba ütköznek, amikor azt kell érthetően elmagyarázniuk, hogyan értékel egy mesterséges intelligencia által vezérelt eszköz például egy embert, vagy hogyan mutathassák be például az ok-okozati összefüggések egyértelmű láncolatát.[8] Ezek a problémák adják a gépi bizonyítás „feketedoboz-problémáját”, amelyet jelenleg is számtalan kutató vizsgál.[9] De valójában nem ez az egyetlen probléma, ahogyan erre ez a szakértői vélemény szerepéről a büntető igazságszolgáltatási rendszerekben szóló összehasonlító tanulmány is rámutat.
A gépi bizonyítékok, akárcsak a technológia más, korábbi formái, új információforrásokat nyújthatnak, és ezáltal esélyt adnak a büntetőeljárásokban a pontosabb ténymegállapításra. A technológia használatának azonban ára van, mivel magában a technológiában rejlő „feketedoboz-problémák” árát is meg kell fizetni. Ez azt jelenti, hogy egy adott eredményt, vagy ha úgy tetszik, bizonyítékot nem mindig vagy nem is lehet megmagyarázni. A bíráknak el kell majd dönteniük, hogy megbíznak-e az MI által generált, a szakértők által csak részben megmagyarázható bizonyítékokban, ami így még bizonytalanabbá teheti az amúgy is bonyolult döntéshozatali rendszert.
Véleményem szerint a bíróságoknak inkább szkeptikusan kellene fogadniuk a mesterséges intelligenciáakn a törvényszéki bizonyítékok jövőbeli generációiba történő beépülését. Tekintettel arra, hogy a mesterséges intelligenciát alapvetően fogyasztói igények kielégítésére fejlesztették ki, és eredetileg nem törvényszéki bizonyítási eszközként való felhasználásra szánták, a fogyasztói termékekben és a fogyasztói típusú mesterséges intelligencia által generált gépi törvényszéki bizonyítékok új kihívásokat jelentenek. Kezdetben valószínűtlennek tűnhet, hogy a mesterséges intelligencia mindennapi életünkben való fokozott használata a gépi bizonyítékok jelentőségének növekedéséhez vezetne a tények megállapításában a büntetőeljárásokban, különösen, ha figyelembe vesszük, hogy a bíróságok a múltban vonakodtak az összes rendelkezésre álló technológia (pl. poligráf) alkalmazásától, de a folyamatos technológiai fejlődés változásokat eredményezhet. Ahogy a mesterséges intelligencia egyre szélesebb körben elterjed, és ha az ilyen technológiát az emberi viselkedés pontos értékelésének tekintik, egyre többen elfogadóbbak lesznek azt megbízható információforrásként kezelni. E lehetőség ellenére továbbra is nagyfokú bizonytalanság övezi azt a kérdéskört, hogy az ilyen információk elfogadhatóak lennének-e a bíróságon, és ha igen, hogyan.[10]
Általában a harmadik fél által benyújtott bizonyítékok befogadására vonatkozó szabályok azon alapulnak, hogy a bírónak a szakértelmén kívül eső kérdésekben segítséget kell nyújtani. Az olyan országok, mint az Egyesült Királyság és az Egyesült Államok azok, amelyek a technológia korában az MI szakértői bizonyításhoz való felhasználásához jelentős előrelépést tettek.[11] Úgy vélem, hogy a kontradiktórius és az inkvizitórius rendszer közötti különbségek elemzése segíthet abban, hogy jobban megértsük, miért is történt ez így.
Ebből a szempontból figyelemre méltó kritikát fogalmaznak meg egyébként azok a felülvizsgálatok, amelyek szerint egyes büntető igazságszolgáltatási rendszerek zavaró és korábban fel nem ismert korlátokkal bírnak az igazságügyi tudományos bizonyítékok hiteles felhasználására és szabályozására vonatkozó képességükben; ezt tehát a mesterséges intelligencia, mint szakértői bizonyíték vonatkozásában is megfigyelhetjük. Az összehasonlító és más bizonyításelméleti kutatók történelmi kudarca az igazságügyi orvos szakértői bizonyítékok értékének és korlátainak mérlegelésében rendkívül mesterséges, sőt nagyrészt absztrakt és steril vitákhoz vezetett az egyes eljárások és azok biztosítékai értékéről. Ezek a viták egyébként általában az igazság eljárásbeli értékéről, az emberi jogokról, az erőforrásokról, az ügyvédek, bírák és esküdtek képzéséről, tapasztalatáról és kiválasztásáról, valamint az olyan biztosítékok hatékonyságáról szólnak, mint a szembesítés és a felülvizsgálat.[12]
A tanulmány célja, hogy egyrészt összehasonlítsa a mesterséges intelligencia mint harmadik generációs tudományos vagy törvényszéki bizonyítási mód szerepét és helyét – különös tekintettel a szakértői bizonyításra – a kontradiktórius és inkvizitórius büntető igazságszolgáltatási rendszerekben, másrészt, hogy dióhéjban megvizsgálja annak alkalmazhatóságát és elfogadhatóságát, hogy az ne váltsa fel az emberi szakértőket, hanem lehetővé tegye azok esetleges együttélését.
A tanulmány további értéke lehet, hogy rávilágít a mesterséges intelligencia használatára a jogi szakmában is, és kitér a mesterséges intelligenciával kapcsolatos, a különböző büntető igazságszolgáltatási bizonyítási rendszerekben megjelenő egyes kihívásokra. Amellett, hogy összehasonlítja a szakértői bizonyítás MI-ként való adaptálhatóságát a különböző típusú büntető igazságszolgáltatási rendszerekben és magukban az igazságszolgáltatási rendszerekben, bemutatja az MI-szakértő és az emberi szakértő közötti különbségeket is, hogy jobban rávilágítson egyes jogi és szabályozási problémákra is, kiegészítve egy veszélyek és lehetőségek réteggel is az összehasonlító elemzést.
Az igazságszolgáltatási rendszerek különböző típusainak tanulmányozásával és jobb megértésével úgy vélem ugyanis, hogy jobban meg lehet határozni a mesterséges intelligencia esetleges igazságügyi szakértőkénti alkalmazását, és ajánlásokat is meg lehet fogalmazni, tekintettel arra, hogy a mesterséges intelligencia és a gépi bizonyítékok egyre jobban elterjedni tűnnek a jelenlegi trendekből kiindulva.
Mesterséges intelligencia és az algoritmikus döntéshozatal
A mesterséges intelligencia (MI) kifejezés olyan rendszerekre utal, amelyek intelligens viselkedést tanúsítanak azáltal, hogy környezetüket elemzik, és bizonyos fokú önállósággal lépéseket tesznek meghatározott célok elérése érdekében. A mesterséges intelligencián alapuló rendszerek lehetnek tisztán szoftveralapúak, amelyek a virtuális világban működnek (pl. hangalapú asszisztensek, képelemző szoftverek, keresőmotorok, beszéd- és arcfelismerő rendszerek), vagy megjelenhetnek hardvereszközökbe ágyazva (pl. fejlett robotok, önvezető autók, drónok vagy a dolgok internetének alkalmazásai). A legtöbb MI-technológiának adatra van szüksége a teljesítményének és így eredményeinek a javításához. Ha egyszer jól teljesítenek, akkor segíthetnek javítani és automatizálni a döntéshozatalt ugyanazon az adott területen. Erre például szolgálhat az az eset, amikor egy MI- rendszert betanítanak, majd az érintett hálózat vagy rendszer adatai alapján a kibertámadások kiszűrésére használják fel.[13] Nem nehéz ilyen kontextusban arra a következtetésre jutni, hogy az emberi döntéshozók a számítógép tanácsait követve megpróbálhatják saját felelősségüket is minimalizálni. [14]
A mesterséges intelligencia és az algoritmikus döntéshozatal kifejezéseket többféleképpen használják, és a meghatározások tekintetében nincs konszenzus. Az algoritmus egy számítási eljárás absztrakt, formalizált leírása.[15] A mesterséges intelligencia általánosságban a gépek intelligenssé tételének tudománya. Széles kutatási terület, amely az 1940-es évek óta létezik, és Neumann János magyar matematikus játékelméleteivel áll kapcsolatban. A mesterséges intelligenciának ma számos típusa létezik. Az 1970-es évek óta használják a mesterséges intelligenciát jogi érvelés számítógéppel történő olvasható formában való modellezésére, valamint jogszabályok és jogi szabályok számítógépes modellezésére. [16]
Az 1970-es és 1980-as években például sok kutatás összpontosított a szakértői rendszerekre, olyan programokra, amelyek korlátozott, jól behatárolt területeken próbálták leutánozni a képzett szakemberek szakértelmét és érvelését. Ezekben a rendszerekben a kutatók számítógépeket programoztak be kérdések megválaszolására, előre megfogalmazott válaszokat használva. Az ilyen szakértői rendszerek az 1980-as években némi kereskedelmi sikert arattak, azonban két hátrányuk is volt. Először is, a rendszerek logikai szabályai nem mindig feleltek meg a világ kusza valóságának. Másodszor, a rendszerbe táplálandó válaszokat a szakértőknek kellett megadniuk előzetesen, ami nehézkessé tette a rendszerek kialakítását is. Nem beszélve arról, hogy ez a folyamat nagyon idő- és pénzigényes. [17]
A gépi tanulással, a mesterséges intelligencia egy fajtájával a rendszerben lévő tudást azonban a szakértőknek nem kell biztosítaniuk. A gépi tanulás röviden adatvezérelt előrejelzésként foglalható össze, amely egy adathalmazban lévő változók közötti összefüggések felfedezésének automatizált folyamatára utal, gyakran egy lehetséges kimenetel vagy eredmény becslése céljából. A gépi tanuláshoz kapcsolódó kifejezések közé tartozik az adatbányászat, a nagy méretű adatok és a profilalkotás. Az adatbányászat a gépi tanulás egy fajtája, az érdekes korrelációk felfedezésének, kinyerésének folyamata nagy mennyiségű adatból. Az adatbányászatot az adatokból történő tudásfeltárásnak (Knowledge Discovery from Databases, KDD) is nevezik. A big data kifejezés nagyjából a nagy adathalmazok elemzésére utal. A profilalkotás pedig az adatok automatizált feldolgozása olyan profilok létrehozása érdekében, amelyek felhasználhatók döntéshozatalra.[18]
Mesterséges intelligencia a jogi szakmában
Napjainkban a gépek képesek olyan kognitív funkciókat ellátni, mint az érzékelés, az érvelés, a tanulás és az interakció a mesterséges intelligencia néven ismert, nagy teljesítményű technológia révén, amelyben mintákat képesek megérteni adatszámítás segítségével.[19]
A jogi szakmába az MI már régóta beszivárgott. A svédországi Piper Lawyers cég például már 2011-ben elkezdte használni dokumentumelemzéshez a mesterséges intelligencia technológiáját a költség- és időráfordítás csökkentése érdekében. A cég mellesleg a Clearwell nevű cég által kifejlesztett e-discovery szoftvert használja, amely képes a dokumentumokat nem konkrét kulcsszavak, hanem fogalmak alapján elemezni, így csökkentve a jogvitában releváns anyagok megtalálásának idejét. Egy másik példa a világ első mesterséges intelligenciával rendelkező, a Baker Hotelier ügyvédi kabinet ügyvédje, ROSS, akinek az a feladata, hogy jogi dokumentumok ezreit szitálja át a cég számára csődügyekben.[20]
Szingapúrban az ügyvédi irodák inkább a Smart Law-ra kezdtek el előfizetni, egy olyan mesterséges intelligenciát használó startupra, amely az ügyvédeket több ezer oldalnyi dokumentum rendkívül gyors átnézésével és a jogi kérdések másodpercek alatti megválaszolásával segíti. A Smart Law valós időben képes megjósolni az ítéletek kimenetelét, valamint kivonni a jogi precedenseket és ítéleteket bűncselekmények, vitatott válások és orvosi gondatlansági ügyek esetében. Ennek eredményeképpen az ügyvédek időt takaríthatnak meg, mivel a mesterséges intelligencia segítségével ez a típusú jogi munka rendkívül rövid idő alatt elvégezhető.[21]
Az ügyvédi irodák mellett ma a mesterséges intelligencia az igazságszolgáltatási rendszerbe is be-beépült, és a bírák munkáját segíti. Az ilyen típusú bizonyítékok elfogadásával kapcsolatban azonban problémák és kihívások merülnek fel. A folyamat pedig még gyerekcipőben jár, és úgy vélem, hogy további tanulmányokat lenne szükséges fontolóra venni. Azonban annyi bizonyos, hogy a jogrendszerek és a különböző igazságszolgáltatási rendszerek alapos elemzése véleményem szerint elengedhetetlen annak megértéséhez, hogy a mesterséges intelligencia milyen mértékben használható vagy milyen mértékben lehet hasznos szakértői bizonyítékként, továbbá milyen körülmények között, milyen megfelelő jogszabályi módosításokkal használható.
Bizonyítékok és bizonyítási rendszer
A büntetőeljárásban a bizonyíték a múltbeli esemény ismerete, amikor az eredményből következtetünk az okra.[22] A bizonyíték az egyetlen jogi módszer a tények megállapítására a büntetőeljárás során.[23] A rekonstruálható bizonyítékok akadályoztatása esetén a nyomozást meg kell szüntetni, vagy felmentő ítéletet kell hozni, az in dubio pro reo szabály szerint a kétségeket a vádlott javára kell értékelni. A bizonyítás a nyomozó hatóság számára ugyanolyan fontos, mint a bíróság számára, és a szakértői vélemény szerepe kiemelkedő jelentőségű a büntetőeljárás nyomozati szakaszában.
A büntetőeljárási törvény tehát meghatározza a megismerési és bizonyítási eszközöket, részletesen szabályozza ezek megszerzésének módját, és meghatározza azokat a korlátokat is, amelyeket a törvényesség érdekében be kell tartani.
A bizonyítás célja, hogy tények, adatok és bizonyítékok alapján ítélkezzünk. A büntetőeljárás keretében a bizonyítás a bűncselekmény elkövetésének megállapítását, az elkövető azonosítását és a büntetőjogi felelősség megállapítását jelenti tények és adatok alapján, a törvény által szabályozott módon. Eszközei, módszerei és rendszerei számos változáson mentek keresztül,[24] rendjét, menetét, kereteit és eszközeit törvény szabályozza, normáinak betartása pedig az eljáró hatóságok jogi kötelezettsége.
Az igazság megállapítása során inkább a valóság szinonimájaként értelmezzük, azaz ki kell deríteni, hogy mi történt valójában. A megtörtént események közül csak azok a tények és adatok válnak mérvadóvá, amelyeket a jog megszűrt, értékelt és a jogalkotó lényegesnek minősített.
A bizonyítási eljárás során két, egymással szorosan összefüggő fő kérdést, azaz egy ténykérdést és egy jogi kérdést kell bizonyítani, ezért a bizonyítás a valóság egy részére, nevezetesen a jogilag releváns tények bizonyítására korlátozódik. A bizonyítási jog magában foglalja a bizonyítási eszközök bemutatását és a bíróság előtti ismertetését, a bizonyítási eljárás lefolytatását, a bizonyítás eredményének értékelését és a bizonyítékokból való következtetések levonásának szakaszát, a subsumálást. A bizonyítás tehát eljárási vagy anyagi jog, attól függően, hogy a bizonyítás dinamikus, azaz eljárási jellegű, pl. szakértő kijelölése, szakértő meghallgatása, vagy statikus jellegű, azaz kevéssé vagy egyáltalán nem külsődleges, pl. szakértői vélemények mérlegelése.
A bizonyítékok értékelése meghatározza a bizonyítási eljárások különböző normatív tartalmát is, amelyek a formális, személyes igazság elsőbbségét célozzák, a valóság feltárását várják és objektív igazságosságot biztosítanak. Az objektív igazság elérése – szakértői bizonyítás révén – aktív bírói együttműködést igényel az érdemi peres eljárások keretében. Ezzel szemben az eljárási rend, amely a formális igazság elsőbbségét érvényesíti, nem fosztja meg a feleket rendelkezési joguktól, kizárja a bírói önkényt, és megköveteli a tisztességes eljárás jogrendet védő szerepének érvényesítését, alapvetően passzív, a formális peres eljárásokra korlátozódó bírói magatartással.[25]
A büntetőeljárásokban a bizonyítás olyan határterület, amely szorosan kapcsolódik a mindennapi ismeretekhez, de a szakmai és tudományos ismeretek jellemzőivel is rendelkezik.
A megismerés alanya a bíróság, célja pedig a büntetőeljárás során az ítélethozatal, amely csak bizonyított ismereteken alapulhat,[26] de a bizonyítás egésze nem tekinthető egyszerű megismerési folyamatnak.[27]
A büntetőeljárás feladata az igazság kiderítése, de nem mindenáron.[28] Bizonyítás és bizonyosság kérdése, hogy a jogilag releváns büntetőjogi múlt megállapítható-e az eljárási garanciákkal rendelkező bírósági eljárásban.
Igazságügyi rendszerek
Történeti megközelítésben az összehasonlító módszert hagyományosan alkalmazó, a bizonyítékokkal és eljárásokkal foglalkozó tudósok az angol-amerikai (vagy common law) és a kontinentális európai megközelítéseket állították egymás mellé. A hagyományos és a különböző összehasonlító gyakorlatok közötti jelentős különbségek azonban nem elhanyagolható mennyiségű tudományos munkát és kommentárt eredményeztek a kontradiktórius és a nem kontradiktórius intézmények és eljárások előnyeiről.[29]
A szakértői bizonyítással kapcsolatban az összehasonlító kutatók arra összpontosítottak, hogy melyik rendszer adott jobb választ a régóta fennálló problémákra, mint például a független vélemény beszerzése és a felelősség és a bűnösség megállapításához nyújtott segítség biztosítása tekintetében.[30]
Az igazságszolgáltatási rendszerek különbségeit vizsgálva jobban megérthetjük, hogy az intézményesített törvényszéki tudományokra és azok bizonyítási termékeire miért az Egyesült Államokban születtek a legkritikusabb reakciók, és hogy ez mit sugallhat az összehasonlító jogi „előnyökről”, valamint megérthetjük rendszereink jogi korlátait, amikor a mesterséges intelligenciát szakértői bizonyítékként vezetjük be, figyelembe véve az exogén, jogon kívüli tudás helyét is a büntetőeljárásban.
A bizonyítási rendszer olyan elvek összefüggő rendszere, amelyek a feladatra, a tárgyra, a cselekvésekre, az eszközökre és a bizonyítási eredmények meghatározására vonatkoznak. Ezek a rendszerek az adott eljárási rendszer egészének jellegéhez igazodnak. A büntetőeljárás mindenhol nemzeti sajátosságokkal rendelkezik. Az eljárási rendszer a bírósági eljárások működési és szerkezeti elveinek összessége, amelyek meghatározzák az eljárás fő funkcióit, valamint az eljárás alanyainak jogait és kötelezettségeit.[31]
De hogy pontosabbak legyünk, a különböző büntetőeljárások[32] három alapvető rendszerre oszthatók. Ezek az inkvizitórius, a vádelvű[33] és a vegyes bizonyítási rendszerek, amelyek meghaladják e tanulmány kereteit.[34]
Magyarország
A magyar büntetőeljárási jogban a bizonyítás két kardinális elven alapul: a bizonyítékok szabad értékelésén és a bizonyítás szabadságán. A szabad értékelés elve azt jelenti, hogy a törvény nem írja elő egy adott bizonyíték bizonyító erejét, azt a tény megállapítójának kell meghatároznia az ügy összes olyan elemével összefüggésben, amelyet relevánsnak tekintünk a tényállás szempontjából.
A bizonyítékok értékének meghatározásakor a bírónak racionálisnak kell lennie, és a logika szabályait kell követnie, és írásban kell indokolnia a döntését. Ez a kötelezettség különösen érdekes az igazságügyi tudományos és szakértői bizonyítással kapcsolatban, ahol azért rendelnek ki szakértőket, mert a bíró nem rendelkezik releváns ismeretekkel vagy szakértelemmel. A bizonyítás szabadságának elve azt jelenti, hogy a döntéshozatal során minden releváns bizonyítékot figyelembe lehet venni.
A büntetőeljárásról szóló 2017. évi XC. törvény (Be.) 163. §-a kimondja, hogy a bizonyítékok közé tartoznak a büntetőjog és a büntetőeljárás alkalmazása szempontjából jelentős tények. A bizonyítékok közé tartozhatnak olyan tények is, amelyek a büntetőeljárás mellékkérdéseinek értékelése szempontjából jelentősek.
Az ítéletben a bíróság tisztázza a tényállást a vád keretében. Nem szükséges olyan tényeket bizonyítani, amelyek általánosan ismertek, amelyek a bíróság, az ügyészség vagy a nyomozó hatóság előtt hivatalosan ismertek, vagy amelyek valóságát a vádló, a terhelt és a védő az adott ügyben együttesen elfogadja, a felperes, az alperes és a védelem az adott ügyben közösen elfogadja.[35]
A bizonyítandó tény bizonyítása a bizonyíték, amelynek forrása a bizonyítási eszköz.[36] A Be. a 165. §-ban határozza meg, hogy az eljárás során mely bizonyítási eszközöket fogadja el bizonyítékként. A bizonyítási eszközök a) a tanúk vallomása, b) a vádlott vallomása, c) a szakértő véleménye, d) a pártfogó felügyelő véleménye, e) a tárgyi bizonyítási eszközök, ideértve az iratokat és feljegyzéseket, valamint f) az elektronikus adatok. A büntetőeljárási törvény felsorolja a bizonyítási eszközöket, amelyek között említi a szakértői véleményt, de nem tartalmazza a szakértői véleményt, amely nem bizonyítási eszköz, és ezért a poligráfos vizsgálat eredményei sem értékelhetők bizonyítékként.[37]
Egy bizonyítási eszköz kizárása csak akkor állapítható meg, ha a bíróság megvizsgálja a bizonyítási eszköz jogszerűségét.[38] A jogalkotó különböző szempontokat érvényesít a bizonyítási eszközök perbeli felhasználási lehetőségeinek meghatározásakor,[39] például az alkalmasságot, a célszerűséget, és az észszerűséget.
A bírósági eljárások során is vannak olyan esetek, amikor bizonyos bizonyítékok a törvény rendelkezései alapján nem használhatók fel a tényállás megállapítására. A tényállás megállapítása során ezek az esetek olyan bizonyítási tilalmaknak tekinthetők, amelyek korlátozzák a bíróság mozgásterét. A vádlottat ártatlannak vélelmezik, és csak akkor lehet elítélni, ha a bíróság minden kétséget kizáróan megállapítja (intime ítélet), hogy bűnös.
A Be. 1. §-a szerint senki sem tekinthető bűnösnek, amíg a bíróság jogerős és végleges határozatával nem állapította meg bűnösségét. Az igazságügyi szakértőkről szóló 2016. évi XXIX. törvény 3. § (1) bekezdése szerint az igazságügyi szakértő feladata, hogy a hatóság által vagy megbízásából készített szakvélemény alapján, a tudományos és technikai fejlődés eredményeinek figyelembevételével, a függetlenség és pártatlanság követelményeinek betartása mellett döntsön a szakmai kérdésben, és közreműködjön a tényállás megállapításában.
A tudományos bizonyítékokat akkor veszik figyelembe, ha azok segítik az igazság megállapítását. A büntetőeljárási törvény 188. § (1) bekezdése kimondja, hogy ha a bizonyítandó tény megállapításához vagy értékeléséhez különleges szakértelem szükséges, szakértőt kell igénybe venni. A magyar jog szerint – az igazságügyi szakértőkről szóló 2016. évi XXIX. törvény 5. § (1) bekezdése szerint – szakértő az a természetes személy, aki megfelel az előírt feltételeknek, és akire nem állnak fenn kizáró okok, hogy meghatározott szakterületen a nyilvántartásba felvegyék, és a nyilvántartást vezető hatóság kérelemre engedélyezi az igazságügyi szakértői tevékenység gyakorlását.
Mint láttuk, a bizonyítékok értékelése „szabad”, és ez az elv minden típusú bizonyítékra vonatkozik. A bíró csak abban az esetben utasíthatja el a szakértői bizonyítékot, ha a szakértői jelentésben ellentmondás van; és a jogi kérdésekre válaszoló szakértő (a szakértőnek csak a magyar jog szerinti tényeket kell értékelnie). Ez megköveteli, hogy a bíró tudományos ismeretek nélkül döntse el, hogy az írásbeli jelentésben szereplő szakértői bizonyítékok ellentmondásosak vagy más módon problematikusak-e. Miután a szakértő megbízást kapott és benyújtotta a jelentését, a felek kérhetnek egy második szakvéleményt. A védelem felkereshet egy magánszakértőt, és elvégeztetheti vele a konkrét elemzést. Azonban még ha a vádlott be is szerez egy második szakvéleményt, nincs garancia arra, hogy a bíró nagy súlyt tulajdonít majd ennek a véleménynek. A magyar ügyvédnek a vizsgálatban és a meghallgatásokon a kontradiktórius kollégáihoz képest nagyon korlátozott szerepe van.
Amerikai Egyesült Államok
Az Amerikai Egyesült Államok tulajdonképpen egy olyan szövetségi rendszer, amely számos államból és területből áll, amelyek mindegyike saját büntetőjogáért, saját büntető igazságszolgáltatásáért, bizonyítási és eljárási szabályaiért felelős. A bűnügyi nyomozást általában a rendőrség végzi, amely a bűncselekmény helyétől és típusától függően rendelkezik a nyomozásra hatáskörrel.
A nyomozás során a rendőrség (és esetleg más bűnüldöző szervek munkatársai) olyan bizonyítékokat keresnek, amelyek felhasználhatók az elkövető azonosításához és a vádemelés alátámasztásához. Amint az ügy összeállt, az aktát a kerületi ügyészséghez, vagy egyes szövetségi bűncselekmények esetében a szövetségi ügyészhez utalják. Az ügyész a rendőrség által összegyűjtött bizonyítékok alapján dönt arról, hogy vádat emel-e a gyanúsított ellen. A védelem saját vizsgálatot folytathat a felmentő bizonyítékok összegyűjtése érdekében. Ha a gyanúsítottat megvádolják és bíróság elé állítják, a vád és a védelem az esküdtszék elé terjeszti az ügyét, amely (elméletileg) csak akkor hoz ítéletet, ha az ügy minden kétséget kizáróan bizonyított. Az Amerikai Egyesült Államokban az ügyészeket általában választják. A tárgyaláson az ügyészek a védőügyvédekkel konfrontálódnak, akik megjegyzendő, hogy általában az adott állam által kinevezett, korlátozott erőforrásokkal dolgozó kirendelt védők. A vádlottaknak lehetőségük van saját ügyvédet fogadni is, de viszonylag keveseknek van erre megfelelő anyagi lehetőségük.[40] Az amerikai büntető igazságszolgáltatási rendszer kontradiktórius jellege a tisztességes eljárást hivatott biztosítani azáltal, hogy a vádlottnak jogi képviseletet biztosít; lehetőséget ad a vádlottnak az események és a védekezés ismertetésére; lehetőséget biztosít az ügyész által megidézett tanúkkal való szembesítésre; és lehetőséget biztosít az esküdtszék általi ítélethozatalra, természetesen a fellebbvitel lehetőségével.
Az esküdtszék alkalmazása különösen az igazságosság garanciájaként jelenik meg, mivel kizárja a politikai vagy társadalmi elit általi ítélkezést. A büntetőeljárások nagy részét (több mint 95 százalékát) tárgyalásos úton, nevezetesen vádalku útján oldják meg.[41]
A nyomozás során feltárt bizonyítékokat az állam és a védelem által felkért szakértők elemezhetik. A forenzikus elemzéseket általában a nyomozásért felelős bűnüldöző szervhez mintegy „beépített” törvényszéki elemzők végzik. A szakértői bizonyítékok elfogadhatóságát illető két domináns megközelítés a United States v. Frye és a Daubert v. Merrell Dow Pharmaceuticals, Inc. ügyek köré épül. [42]
E megközelítések közül a legrégebbi, szabályozva az Államok nagyjából egyharmadában az elfogadhatóságot, a hazugságvizsgáló egy korai formájának elfogadhatósága miatt 1923-ban benyújtott fellebbezésre épül. Nevezetesen a Frye-ügyben a bíróság elutasította a vádlott szisztolés vérnyomásvizsgálata kedvező eredményeinek bemutatására tett kísérletét, és bevezette az „általános elfogadás” elméletét. A Daubert-ügyben pedig négytényezős tesztet vázolt fel az elfogadhatóság meghatározására a következő szempontok szerint: egy tudományos technika sikeresen kiállja-e a tesztelést; alávetették-e szakértői értékelésnek; van-e ismert hibaaránya és léteznek-e a működését ellenőrző standardok; és vajon általánosan elfogadott-e a tudományos közösség szemében.[43]
Bár a Daubert-ügy a tudományos bizonyítékok elfogadhatóságának jogi normáival foglalkozott, nem határozta meg, hogy ezeknek a normáknak hogyan kell működniük a gyakorlatban, vagy hogyan kezeljék a bíróságok a tudományos bizonyítékok elfogadására irányuló többszörös kérelmeket egy ügyön belül vagy az ügyek között, különösen, ha azokat ugyanaz a fél szorgalmazza. Arra sem, hogy vajon minden egyes tárgyalóteremben minden egyes alkalommal meg kell-e vizsgálni egy technika elfogadhatóságának vitatását, vagy a bíró megfelelően figyelembe veheti a más ügyekben, tárgyalótermekben, megyékben, államokban vagy nemzeteknél tett megállapításokat. További felvetés, hogy mikor kell a bíróságoknak egy elismert technikát „tudományos jognak” és így a bírósági indoklás megfelelő tárgyának tekinteniük, és fordítva, mikor indokolhatják az új fejlemények a meglévő „tudományos jog” újbóli vizsgálatát? Kinek kell viselnie az olyan bizonyítékok előterjesztésének terhét, amelyek megkérdőjelezik egy bevett módszer folyamatos megbízhatóságát? Mi legyen például egy technika elfogadhatóságának meghatározása során a laboratóriumi hibaarány relevanciája, szemben a módszertan hibaarányával?[44]
Az 1980-as évek közepétől kezdve az általános elfogadásra hivatkoztak a kártérítési és termékfelelősségi perekben, különösen a tömeges kártérítési perekben a felperesek által benyújtott szakértői bizonyítékok kizárása érdekében. Az általános elfogadottságot egyes szövetségi fellebbviteli bíróságok a nemrégiben hatályba lépett szövetségi bizonyítási szabályzat (FRE) 702. szabályába is beillesztették.[45]
Amennyiben egy technika és az abból levezetett vélemény megfelel az „általános elfogadás” vagy az FRE 702 Daubert-kritériumainak, a bizonyítékot általában kellően megbízhatónak (vagy bizonyító erejűnek) tekintik úgy, hogy az ne veszélyeztesse a tisztességes eljárást.[46]
A FRE 702 megfogalmazása szerint:[47] Az a tanú, aki ismeretei, képességei, tapasztalata, képzettsége vagy végzettsége alapján szakértőnek minősül, tanúskodhat vélemény formájában vagy más módon, ha:
(a) a szakértő tudományos, műszaki vagy egyéb speciális ismeretei segíteni fogják a tényeket vizsgáló bíróságot a bizonyítékok megértésében vagy egy vitatott tény megállapításában;
(b) a tanúvallomás elegendő tényeken vagy adaton alapul;
(c) a tanúvallomás megbízható elvek és módszerek eredménye; és
(d) a szakértő megbízhatóan alkalmazta az elveket és módszereket az ügy tényállására.
Az amerikai büntető igazságszolgáltatási rendszerek büntető gyakorlata és így jellege szintén fontos lehet az igazságügyi tudományos bizonyítékokra adott válaszok megértéséhez. A bíróságok rendszeresen rendkívül hosszú börtönbüntetéseket szabnak ki, és számos államban továbbra is létezik a halálbüntetés. Az állami és szövetségi bíróságok cizellált fellebbezési mechanizmusokkal rendelkeznek, különösen a halálbüntetéses ügyekben. Bár a megfigyelések alapján a valóságban ezek ritkán nyújtanak érdemi enyhítést. A kivégzett és halálra ítélt foglyokat érintő ártatlansági ügyek arra szolgáltak, hogy felhívják a figyelmet a nyomozások számos aspektusával, a bizonyítékok számos formájával (különösen a szemtanúkkal, az igazságügyi tudományos bizonyítékokkal és a beismerő vallomásokkal), és kisebb mértékben a tárgyalásokkal és a fellebbezésekkel kapcsolatos problémákra.[48]
Az Amerikai Egyesült Államok joggyakorlatát széles körben inkább agresszívebbnek tartják, mint sok más common law (azaz kontradiktórius) jogrendszerét, mint például Ausztráliáét, Angliáét, Kanadáét és Új-Zélandét. Az amerikai peres ügyvédek az ügyészekkel gyakran nem együttműködőek vagy nem előzékenyek, és nagyobb valószínűséggel tesznek, vagy emelnek kifogást az eljárás során, mint más common law-beli kollégáik. Ami a kontinentális Európát illeti, az amerikai megfigyeléseiket illetően időnként megdöbbentő a védőügyvédek passzivitása.[49]
Szakértői bizonyítás és ténymegállapítás a különböző igazságszolgáltatási rendszerekben
A kontradiktórius eljárás előnye voltaképp a részrehajló, kétkedő elemzés, szűrés,[50] amely mindkét félnek lehetőséget ad arra, hogy az igazságügyi szakértőként felajánlott sokszor fogyasztói, semmint szakmai termékeket, bizonyítékokat megtámadhassa. Ezzel szemben az inkvizitórius rendszerek speciális mechanizmusokkal rendelkeznek a tárgyalótermen kívül rögzített szakértői bizonyítékok bemutatására, többek között a tények megállapítására, amelyek így viszont szükséges a mesterséges intelligencia alapos vizsgálata.[51]
A ténymegállapítás ellenőrzése sokkal összetettebb egy kontradiktórius rendszerben, ahol a bizonyítékok hitelességének és megbízhatóságának vizsgálatára számtalan lehetőség van, és ahol a tudósok már javasoltak megoldásokat a digitális bizonyítékok új generációira.[52]
Összehasonlító jogi szempontból, sem az európai kontinensen elterjedt inkvizitórius rendszer, sem az Egyesült Államokban alkalmazott kontradiktórius rendszer nincs felkészülve azonban a mesterséges intelligenciára a tárgyalóteremben, és így nem is tudja biztonsággal kihasználni a potenciálisan releváns gépi bizonyítékokat.
Míg az inkvizitórius rendszerek nehezen találtak megfelelő védelmi eszközöket az információ ezen új formája elleni küzdelemhez, addig a kontradiktórius rendszerek kevés megvalósítható eszközzel rendelkeznek a mesterséges intelligencia által vezérelt eszközök alapos átvilágítását dokumentáló peren kívüli bizonyítékok bevonására. Mindkét rendszerben jelentős változtatásokat kellene fontolóra venni annak érdekében, hogy a bíróságok világszerte szembesüljenek a mesterséges intelligencia által generált bizonyítékokkal, és olyan megközelítés mellett kellene érvelni, amely mind a kontradiktórius, mind az inkvizitórius igazságszolgáltatási rendszerekből merítene. Ez magában foglalhatná azon jellemzők vegyítését, mint például a kontradiktórius rendszerek eszközeit a bizonyítékok alapos vizsgálatára pártatlan környezetben, valamint az inkvizitórius rendszerek idő- és helymegosztását a bonyolult technikai bizonyítékok bírósági termen kívüli értékeléséhez, valamint az ismereteknek az ügyiratban szereplő valamennyi fél közötti megosztását.[53]
A digitális összetettség minden egyes további rétegével egyre nehezebbé válhat a releváns információkhoz való hozzáférés, és gyakran olyan szakértelmet igényel, amellyel a tényállás elbírálója nem feltétlenül rendelkezik. További kérdések merülhetnek fel a bizonyítékok megbízhatóságát és hitelességét szabályozó jogszabályokból is, amelyek nemcsak a bizonyítékok elfogadhatóságára (ami a kontradiktórius eljárás egyik legfontosabb eleme), hanem azok súlyára is hatással vannak (ami pedig az inkvizitórius modellben különösen fontos szempont a tények megállapításakor).[54]
A kontradiktórius rendszerben a felek jellemzően szakértőket – a szakértők kontradiktórius rendszerben történő alkalmazásának átvétele szintén érdekes szempont lehet – vesznek igénybe, akik képesítésük, képességeik vagy tapasztalatuk alapján a bíró vagy az esküdtszék előtt mutatják be szakvéleményüket. Az inkvizitórius rendszerben az igazságügyi szakértőt a szakismerettel nem rendelkező bíróság rendeli ki; a szakértők a szakvéleményüket általában szóban, nyilvános tárgyalás keretei között teszik meg, de írásbeli jelentésben is benyújthatják azt. Függetlenül attól, hogy a ténymegállapítást végző személyek az esküdtek vagy a bírói testület tagjai, az önállóan értékelést végző és az ügy tényállásának rekonstruálásában hasznos (vagy nem hasznos) eszközök megbízhatóságával kapcsolatos kérdések megértése – ezen a téren pedig kifejezetten – meghaladja egy átlagos ember ismereteit és megértését. A komplex technológia tényfeltárásban való alkalmazása a szakértői bizonyítást ily módon kulcsfontosságúvá teszi mind a kontradiktórius, mind az inkvizitórius igazságszolgáltatási rendszerekben.[55]
Míg a kontradiktórius rendszerekben (különösen az Egyesült Államokban) a tudósok egyre inkább elítélik az ebbe az „átláthatatlan gépezetbe” vetett vak hitet, és a 2000-es években a DNS-tesztek révén történt téves azonosításokra hivatkoznak, Európában nem alakult ki hasonlóan éles vita.
Természetesen mindkét jogrendszer hasonló szabályokat alkalmaz a megbízható ténymegállapításhoz szükséges alapokra vonatkozóan, beleértve a független és pártatlan bírákat és a bizonyítási eljárásra vonatkozó formális követelményeket. E közös alap ellenére a kontradiktórius és az inkvizitórius eljárás nagyon eltérő eljárási megközelítéseket alkalmaz.[56] Ezek a különbségek leginkább a tényfeltáró testület eltéréséből adódnak, amely az inkvizitórius rendszerben a bírákból és a laikusokból álló bírói testület, míg a kontradiktórius rendszerben a bíró vagy az esküdtszék. Ez az eltérés alakítja a bizonyítási szabályokat is, beleértve azt is, hogy a tényállás megállapításakor hogyan használják fel majd fel a vallomásokat, szakvéleményeket, valamint a fellebbvitelnek ellenálló, indokolással ellátott ítélet szükségességét is.[57]
Mindkét igazságszolgáltatási rendszer közös célja az igazság keresése (bár eljárási szempontból eltérő igazság keresésése), valamint a mesterséges intelligencia által vezérelt eszközök e folyamatok nyilvánvaló támogatása összességében érdekes összehasonlító tanulmányhoz vezethet. A szakértők ugyanis kulcsfontosságúak a gépi bizonyítékok és így az MI büntetőeljárásban történő felhasználása szempontjából. Nekik kell megragadniuk és tisztázniuk, hogy az egyes adatok hogyan kerülnek rögzítésre, amellett, hogy elmagyarázzák egy adott gépi tanulási eszköz hatását és a ténymegállapítás szempontjából releváns lehetséges hibaforrásait. Egy kontradiktórius eljárásban a szakértői bizonyítékokat általában az ügy részleges bemutatásának részeként használják fel, míg egy nyomozás során egy inkvizitórius rendszerben az ügyész jellemzően szakértőket bíz meg, akiknek a szakvéleményét később csatolják az ügyirathoz.[58]
A kontinentális európai jogrendszert az 1950-es évek óta a kontradiktórius felfogás befolyásolja, az Emberi Jogok Európai Bíróságának (EJEB) az Emberi Jogok Európai Egyezményén (EJEE) alapuló kiemelkedő ítélkezési gyakorlatának eredményeként. Különösen a tisztességes eljárás fogalma, beleértve a terhelő bizonyítékok vizsgálatához való jogot (EJEE 6. cikk), volt a tényfeltárásra tartós hatással a kontinentális Európában, és gyakran egyfajta tartalékként szolgál, ha a hagyományos inkvizitórius rendszer nem nyújt megfelelő védelmet az egyén számára.[59]
Az EJEE 6. cikke és a fegyveregyenlőség elve, bár látszólag kontradiktóriusnak tűnik, és egyesek szerint mind polgári jogi, mind common law hagyományokon alapszik, az EJEB azon kísérletének következménye, hogy az eljárási méltányosság igazságszolgáltatási rendszereken átívelő fogalmát hozza létre a „tudásparitás” elérésére törekedve. Mind a kontradiktórius, mind az inkvizitórius rendszerekben gyakori, hogy a MI-technológia igazságügyi szakértőként való engedélyezése sértheti például az EJEE 6. cikkében garantált tisztességes eljáráshoz való jogot. Az EJEE 6. cikke szerint a tisztességes eljárás magában foglalja a tisztességes eljáráshoz való jogot és a védelemhez való jogot; ennek eredményeképpen, ha az MI-technológia igazságügyi szakértővé válik, a vádlottaknak nem egyértelműen lesz ugyanolyan lehetőségük arra, hogy megkérdőjelezhessék az ellenük benyújtott bizonyítékok például pontosságát.[60]
Napjainkban a mesterséges intelligencia által vezérelt eszközök nem vethetők alá keresztkérdéses kihallgatásnak, de ha az ilyen mesterséges intelligenciát bizonyítékként is használnák fel, akkor azt alapos vizsgálatnak kellene mindenképpen alávetni, különösen a tervezés, az algoritmusok és a gépi tanulás/tanulási adatok tekintetében.
Az inkvizitórius és a kontradiktórius büntető igazságszolgáltatási rendszer összehasonlító elemzése arra is rávilágít, hogy új bizonyítási problémák merülnek fel, ha a gépi bizonyítékok bekerülnek a tárgyalóterembe, és nem biztos, hogy létezik egyetlen megoldás. Hagyományosan mind az inkvizitórius, mind a kontradiktórius rendszer a megbízható ténymegállapítás fenntartásának nehézségeit a bizonyítási eljárás emberi hibáira való rámutatással kezelte. Mindkét rendszernek módosítania kellene megközelítését, ha a mesterséges intelligenciát szakértői bizonyítékként kívánják bevezetni a büntetőeljárásokba. Bizonyos szempontból a következtetés mindkét jogrendszerben ugyanaz, miszerint el kellene ismerni a mesterséges intelligencia egyedi státuszát, és az általa közvetített üzenetet láthatóvá kellene tenni a felek, a bíróság és a nyilvánosság számára.
A mesterséges intelligencia technológiája mostanra az emberi szakértelem szintjére ért. A jogrendszer világszerte elkezdte engedélyezni a mesterséges intelligencia igazságügyi szakértőként való használatát a bíróságokon. Ez látható az Amerikai Egyesült Államokban, ahol az MI-technológiát szakértőnek tekintik, és tanúvallomása az FRE 702 alapján elfogadható.[61]
Ezenkívül a gépi tanulással kapcsolatos bizonyítékok is megfelelnek a Daubert kontra Merrell Dow Pharmaceuticals ügyben meghatározott elveknek, ahol az Egyesült Államok szövetségi bírósága elfogadta ezt a szabványt a „megbízható elvek és módszerek” bizonyítására a szakértői szakvéleményhez a FRE 702 értelmében. Meg kell azonban jegyezni, hogy a bizonyítékok elfogadhatósága továbbra is az egyes államok bizonyítási szabályainak hatálya alá tartozik.[62]
Továbbra is viták zajlanak arról, hogy a bíróság elfogadja-e az MI-technológia által nyújtott szakvéleményeket. Az Egyesült Államokban ennek kapcsán felmerült egyik kérdés, hogy az adatgyűjtési módszer nem eredményezett-e olyan torzított mintát, amely befolyásolhatja az adott kérdés relevanciáját.[63]
A mesterséges intelligencia büntető igazságszolgáltatási rendszerekben való alkalmazásával kapcsolatos veszélyek és lehetőségek
Az előrejelzések szerint a mesterséges intelligenciát a bűnmegelőzésben és a büntető igazságszolgáltatási rendszerben is egyre nagyobb mértékben fogják alkalmazni, mivel azzal a hatalmas adathalmazok gyorsabban feldolgozhatók, a foglyok menekülésének kockázatai pontosabban felmérhetők, a bűncselekmények vagy akár a terrortámadások előre jelezhetők és így akár megelőzhetők. Az online platformok már most is használják az MI-t a jogellenes és nem megfelelő online viselkedés észlelésére és az arra való reagálásra. Katonai téren a mesterséges intelligenciát a hacker- és adathalász- támadási stratégiák, illetve a kiberhadviselés kulcsfontosságú rendszereinek megcélzására lehetne használni.
A mesterséges intelligencia által elért eredmények attól függnek, hogyan tervezik meg azt, és milyen adatokat használ fel. Mind a tervezés, mind az adatok lehetnek szándékosan vagy akaratlanul elfogultak. Előfordulhat például, hogy egy kérdés néhány fontos aspektusa nem kerül beprogramozásra az algoritmusba, vagy úgy programozzák, hogy az tükrözze és megismételje a strukturális elfogultságokat. Ezenkívül a számok használata az összetett társadalmi valóság ábrázolására a mesterséges intelligenciát tényszerűnek és pontosnak tűntetheti fel, holott nem az. Ezt a jelenséget néha nevezik is „math washing”-nak. A mesterséges intelligencia olyan döntésekhez vezethet, amelyeket az etnikai hovatartozásra, nemre, életkorra vonatkozó adatok befolyásolnak a munkaerő felvétele vagy elbocsátása, a hitelnyújtás vagy akár a büntetőeljárások során. A mesterséges intelligencia súlyosan érintheti a magánélethez és az adatvédelemhez való jogot. Alkalmazható például arcfelismerő berendezésekben vagy az egyének online nyomon követésére és profilalkotására. Ezenkívül a mesterséges intelligencia lehetővé teszi az egyén által megadott információk új adatokká történő összevonását, ami olyan eredményekhez vezethet, amelyekre az érintett személy nem számított. A demokráciára is veszélyt jelenthet; a közszférában elkülönüléshez és polarizációhoz vezethet, és manipulálhatja a választásokat. A mesterséges intelligencia a gyülekezési és egyesülési szabadság sérelmében is szerepet játszhat, mivel nyomon követheti és profilozhatja a bizonyos meggyőződésekhez vagy cselekedetekhez kötődő személyeket. Megjegyzendő az is, hogy az OECD-országokban a munkahelyek 14%-a nagymértékben automatizálható, és további 32%-uk jelentős változásokkal szembesülhet.
Az emberekkel fizikai kapcsolatba kerülő vagy az emberi testbe integrált MI-alkalmazások biztonsági kockázatot jelenthetnek, amennyiben azokat rosszul tervezték meg, ráadásul vissza is élhetnek velük vagy fel is törhetik ezeket. A mesterséges intelligencia fegyverekben történő rosszul szabályozott alkalmazása a veszélyes fegyverek feletti emberi ellenőrzés elvesztéséhez vezethet. Az információkhoz való hozzáférés egyenlőtlenségeit ki lehetne használni. Például egy személy online viselkedése vagy más adatai alapján és a tudta nélkül egy online értékesítő a mesterséges intelligencia segítségével megjósolhatja, hogy az adott személy hajlandó-e fizetni, vagy egy politikai kampány adaptálhatja üzenetét. Egy másik, elsősorban transzparenciaprobléma, hogy az emberek számára néha nem egyértelmű, hogy a mesterséges intelligenciával vagy egy másik emberrel lépnek-e kapcsolatba.[64]
Emberi szakértő vs MI-szakértő
Cogito, ergo sum! Gondolkodom, tehát vagyok! Az emberi elme és annak gondolkodási folyamatai az emberiség egyik megkülönböztető jellemzője, és olyan jellemző, amely elkülönül az ember fizikai tulajdonságaitól.[65] Az intelligencia tudást igényel. Az emberekkel ellentétben a mesterséges intelligencia a benne tárolt adatokra támaszkodik, ami eredményezhet nagyobb következetességet is a jogi érvelésben és az ítélkezésben.[66]
A mesterséges intelligencia számítási és matematikai műveletek alkalmazásával segítheti érthetőbbé, kezelhetőbbé, hasznosabbá, hozzáférhetőbbé vagy kiszámíthatóbbá tenni a jogot. A 2000-es években gépi tanuláson alapuló megközelítések formájában alkalmazták a mesterséges intelligenciát, hogy különböző módokon segítsék a jog hatékonyabbá tételét. Továbbá a mesterséges intelligencia gyakorlatiasabb felhasználása jogi területen magában foglalja a bírósági tárgyaláson a bizonyítékok beszerzésében való segítségnyújtást, valamint a jogi dokumentumok beszerzését és elemzését. Ez utóbbi különösen egy olyan prediktív kódolási folyamatot foglal magában, amely segíthet az ügyvédeknek megkülönböztetni, hogy a dokumentumok valószínűleg relevánsak-e egy adott ügyben, ami néhány ilyen szolgáltatást nyújtó szoftver feltalálásával lehetséges.[67]
A mesterséges intelligencia bűnüldözésben való alkalmazhatósága miatt létezik olyan MI-technológia is, amely képes külföldi jogi adatokat is tárolni és ezen adatbevitel alapján széles körű előrejelző megoldásokat készíteni. A „prediktív” MI ezen kritériumával a szakértő által igényelt „tudásként” is szolgálhat.
Az MI-technológia helyes kimenet levezetésére való képességét azonban gyakran veszélyezteti a szabályok és a bemeneti adatok pontatlansága. Mivel a mesterséges intelligencia tapasztalat nélküli gép, csak a megfelelő adatoknak és információknak a rendszerébe történő bevitelével lehet javítani rajta.[68] A mesterséges intelligencia csak az algoritmusában tárolt adatok alapján tudja megadni a szakértői véleményét. A bemenet (input) hiánya azt jelenti, hogy az adatok értelmezésében nincs tapasztalat sem. Az emberi, vagyis az igazságügyi szakértők azonban képesek önállóan reagálni a változó körülményekre, míg a mesterséges intelligencia technológiája folyamatos frissítéseket és aktualizálásokat igényel rendszerében a hatékony működéshez.[69] Az emberi szakértők hatékonyabban és kreatívabban alkalmazkodnak a szokatlan körülményekhez, mint az MI-szakértők, amely utóbbi csak az algoritmusában tárolt adatoktól függ, ami közvetve befolyásolhatja az ügy kimenetelét.
A szakvélemény súlyának értékelését a fentiek tükrében a ténybíróság nem feltétlenül tudja hatékonyan elvégezni, különös tekintettel annak megértésére, hogy az MI hogyan alkalmazkodik esetleg a rendelkezésére álló adatokhoz, vagy hogyan tanul azokból. A szakvélemény és a szakértői bizonyítékok célja, hogy segítsék a bíróságot abban, hogy a bíró az ismereteit vagy tapasztalatát meghaladó kérdésekben ítéletet hozzon.
Záró gondolatok
A második generációs bizonyítékokat meghatározó jellemzők – a technikai összetettség, a tudományos bizonyosság, az esetek széles körében való visszatérő jelleg és az adatbázis-alapú összehasonlítások – indokolhatnák a büntető igazságszolgáltatási rendszerben a mesterséges intelligencia szakértői bizonyítékként történő széles körű alkalmazásba vetett bizalmat.
Az első generációs törvényszéki vagy forenzikus bizonyítékokkal kapcsolatos historikus tapasztalatok közelebbi vizsgálata azonban elfeledteti ezt az optimizmust. A DNS-alapú bizonyítékok rövid története alapján nyilvánvaló, hogy a második generációs tudományokat vonzóvá tevő tulajdonságok közül sok olyan van, amely a jelenlegi rendszerben voltaképpen az MI-szakvéleményekhez képest ugyanolyan, ha nem nagyobb hibakockázatnak teszi ki őket.[70] A mesterséges intelligencia voltaképpen harmadik generációs szakértői bizonyítékként való elfogadhatóságának folyamatát tekintve ez a megállapítás érvényes lehet.
Ha megvizsgáljuk ezeket a bizonyítékokat az elfogadhatósági kérdések szempontjából, akkor – tekintettel a második generációs technikák technikai összetettségére – kevésbé valószínű azok módszertani megalapozottsága szoros és folyamatos bírósági ellenőrzése is. A kifinomult tudományos bizonyítékokkal szembesülő bíráknak nagyobb szellemi és anyagi erőforrásokat kellene alkalmazniuk a második generációs technikák átfogó vizsgálatához. Természetszerű, hogy még a jól képzett bíráknak is nehézséget okozhat a bonyolult tudományos vagy matematikai elvek megértése, és a tévedés megnövekedett valószínűsége elriaszthatja a bíróságot attól, hogy túl mélyen belemerüljön az ilyen bonyolult tudományos ismeretekbe.[71]
A mesterséges intelligencia, mint törvényszéki szakértői bizonyítási eszköz már harmadik generációs bizonyítéknak tekinthető. Megjegyzendő, hogy a mesterséges intelligencia a programozási szándéknak megfelelő teljesítményét 10 és 29% közötti százalékos arányban jegyezték fel.[72] Ez nem meglepő, mivel a mesterséges intelligencia általános szerepe, hogy az emberi elvárásoknak való megfelelés helyett az emberi igény szerint cselekedjen.[73]
A mesterséges intelligenciával ellentétben az emberi szakértők képesek alkalmazkodni a változó körülményekhez és a legújabb fejleményekhez. Az emberi szakértők különleges tulajdonságai nem állnak az MI-rendszerek rendelkezésére jelenleg. Az emberi szakértők ismereteket szereznek egy adott témáról, értelmeznek, tanúskodnak a bíróságon, és alaposan tisztázzák az általuk elvégzett elemzéseket. Az MI-rendszer ezzel szemben ugyan képes lehet az adatok tárolására, lefuttatására és értelmezésére, de nem tud alkalmazkodni a különböző változásokhoz, hacsak nem arra, vagy éppen úgy programozzák be, de jelenleg a tudomány – szembesülve az említett „black box problémával” – még nem tart ezen a szinten.
A mesterséges intelligencia képes lehet ugyan a jogviták hatékonyabb és megbízhatóbb megoldására, mint az emberek. Az MI technológiájának fejlődésével a mindennapi életben való felhasználása várhatóan növekedni fog, mind a programozott algoritmusok, mind a gépi tanulás terén elért eredmények révén. Mindazonáltal a mesterséges intelligencia nem biztos, hogy képes elég gyorsan frissíteni magát ahhoz, hogy leírja és elsajátítsa a folyamatosan változó és végtelenül bonyolult valós körülményeket, amelyek inkább esetiek, semmint ismétlődők, vagy akár a nyelvi szubtilitásokat, amelyeken számos jogi, jogászi érv alapul.
Ráadásul a mesterséges intelligencia nem rendelkezik szakértelemmel. Tekintettel arra, hogy a mesterséges intelligenciát emberi felügyelet mellett programozzák és szabályozzák, nem minden adatkészlet reagál tökéletesen az egy-egy alkalmazásba programozott, előre meghatározott programozási szabályokra. Számos vita, jogvita például olyan összetett értelmezést igényel, amelyet az előre meghatározott algoritmusok nem tudnak teljes mértékben lefedni.
A mesterséges intelligencia által adott vélemény vitathatatlanul nem azonos az emberek által adott véleménnyel sem a közlés módjában, sem a további magyarázatokban a közvetlenség elvére is tekintettel.
Mielőtt a mesterséges intelligencia tanúskodhatna, vagy szakvéleményt adhatna a bíróságon, a bíráknak magyarázatot, egyfajta „megoldó kulcsot” kellene adni a rendszer vagy a gép működésére, hogy a bíró tudja, értse, hogy a rendszer hogyan tárolja, használja és értelmezi a rendelkezésére álló adatokat. Ha ezt megértette, akkor lesz a mesterséges intelligencia képes érthető és alátámasztott véleményt nyilvánítani. A tanulmányban leírtak alapján nem cél az emberi, vagyis az igazságügyi szakértők felváltása a mesterséges intelligencia igazságügyi szakértőkkel, hanem inkább elgondolkodni a kettő esetleges együttélésén, amely további kiterjedt kutatást, tervezést és a meglévő joganyag módosítását – ráadásul a technológia rohamos fejlődésével állandó és rapid módosításokat, adaptációt igényelne –, valamint a kontradiktórius és inkvizitórius bizonyítási rendszer egyfajta újraadaptálását és elemeinek esetleges vegyítését igényelheti. Nem elhanyagolandó azon is elgondolkodni, hogy a szakértői területek bővülése, a tudásanyag összetettsége és változása a szakértő–bíró viszonylatban sem egyértelmű, és jelenleg is számos kérdést vet fel, nemhogy egy szakértő–bíró–mesterséges intelligencia relációban.
Az emberi ítélőképesség, a szubjektum, véleményem szerint semmivel sem helyettesíthető az igazság keresésében. A büntetőjogi felelősséget meghatározó történeti tények meghatározásánál minden esetben a materiális igazságot kellene figyelembe venni; az ismeretlen vagy nem ellenőrzött algoritmuson alapuló valószínűség önmagában nem lehet elegendő, még ha a valószínűségi szakvélemények széles körben alkalmazottak is. Ahogy a legkülönbözőbb szakértői területekről érkező szakértők különböznek, úgy a természetesen a mesterséges intelligencia is nagyon szektorfüggő és a speciális ismeretek használatának megértése további szakismereteket, vagy akár szakértői ismereteket és ellenőrzéseket tesz szükségessé. Tekintettel arra, hogy a mesterséges intelligencia, a felhasznált adatok és algoritmusok ágazatspecifikusak, a kontradiktórius vagy inkvizitórius elemek említett keverékét a felhasznált mesterséges intelligencia típusától függően lehet célszerű meghatározni és a további kutatások eredményeitől és a jogi szabályozást is igénylő esetektől függően testre szabni.
Az alkalmazott MI-típusok némelyike ugyanis jobban illeszkedik egy inkvizitórius igazságszolgáltatási rendszerbe, míg mások jobban támogatnák az igazságot a kontradiktórius rendszerekben. Például a kézírás azonosságának vagy hitelességének elemzése területén, ahol a mintafelismerő rendszerek pontos eredményt adnak a hasonlóságok és különbségek azonosításában, ezek egy inkvizitórius rendszerben jobban megállnák helyüket. Az MI szakértőként való jövőbeli szerepeltetése szempontjából a fő gondot maguk a relevanciára és az elfogadhatóságra vonatkozó rendelkezések jelentik.
Ha az ágazatspecifikus gépi bizonyítékok integrálásának problémáját a büntetőeljárásokban a tényállás megállapításához technikai szempontból közelítenénk meg (megkövetelve, hogy a technológia a jogot szolgálja), akkor a kontradiktórius és az inkvizitórius rendszer ugyanolyan, monumentális kihívásokkal nézne szembe. Függetlenül attól, hogy a mesterséges intelligencia új bizonyítási eszközzé válik-e vagy sem – mint minden új típusú bizonyíték esetében –, biztosítani szükséges a ténymegállapítási folyamat megbízhatóságát, így például, amikor a gépi bizonyítékokat a büntetőeljárás során felhasználják.
A technológiai fejlődés ütemét és az általa támasztott kihívásokat a kontradiktórius és inkvizitórius igazságszolgáltatási rendszerek kölcsönös ismerete révén lehetne a legjobban kezelni. Egyetlen bizonyítási rendszer sem tökéletes, de a kontradiktórius rendszer büszke az erejére, a rugalmasságára és az új megközelítésekkel való kísérletezésre való hajlandóságára.[74]
Azt azonban egész biztonsággal kimondhatjuk ma, hogy az MI-alkalmazások használatát meg kellene tiltani, ha az összeegyeztethetetlen az alapvető jogokkal, és nincs például összhangban az Alapjogi Chartával és az Emberi Jogok Európai Egyezményével.
Az igazságszolgáltatási rendszer típusaitól függetlenül mind a védelemhez való jog gyakorlásának hatékonysága, mind a nemzeti büntető igazságszolgáltatási rendszerek átláthatósága szempontjából alapvető fontosságú, hogy a bűnüldözés és az igazságszolgáltatás területén a mesterséges intelligencia eszközei alkalmazásának a feltételeit, annak módozatait és a következményeit konkrét, világos és pontos jogi keret szabályozza. Ezen túlmenően a független, pártatlan értékelésre, az algoritmikus adatok átláthatóságára és azok felügyeletére is szükség van.
A mesterséges intelligencia befolyásolhatja az emberi döntéseket, és a büntetőeljárás minden szakaszára hatással lehet. A mesterséges intelligenciát alkalmazó rendszereket használó hatóságoknak rendkívül magas jogi normákat kell betartaniuk, és biztosítaniuk kell az emberi beavatkozást, különösen az ilyen rendszerekből származó adatok elemzésekor; ezért fenn kell tartani a bírák szuverén, szubjektív mérlegelési jogkörét és az eseti döntéshozatalt; és véleményem szerint meg kell tiltani a mesterséges intelligencia és a kapcsolódó technológiák olyan alkalmazását, amelyek bírói döntéseket sugallnak.[75] A büntetőeljárás során a ténymegállapítás hitelességének és legitimitásának megőrzése érdekében annak emberközpontúnak kell maradnia.
[1] Marton Géza Állam- és Jogtudományi Doktori Iskola, PhD hallgató.
[2] CHRISTOPHER RIGANO, Using artificial intelligence to adress criminal justice needs, National Institute of Justice, NIJ Journal 280, 2019. január. 1. Using Artificial Intelligence to Address Criminal Justice Needs (NIJ Journal 280) (ojp.gov), (2023. 04. 11.).
[3] TATYANA SUSHINA – ANDREW SOBENIN: Artificial Intelligence in the Criminal Justice System: Leading Trends and Possibilities, Advances in Social Science, Education and Humanities Research, 441. kötet, Atlantis Press, Moscow Russian Federation, 2019, 432. 10.2991/assehr.k.200526.062 (2023. 04. 11.).
[4] MIRJAN R. DAMAŠKA: Evidence Law Adrift, Yale University Press, 1997. JSTOR, http://www.jstor.org/stable/j.ctt32bnj3 , 143. (2023. 04. 11.).
[5] MURPHY i. m.721.
[6] FREDERIK ZUIDERVEEN BORGESIUS: Discrimination, artificial intelligence and algorithmic decision-making, Institute for Computing and Information Sciences (iCIS), Radboud University Nijmegen, University of Amsterdam, Strasbourg. 2018, 7. https://rm.coe.int/discrimination-artificial-intelligence-and-algorithmic-decision-making/1680925d73 (2023. 04. 11.).
[7] DAN SIMON: A third view of the black box. University of Chicago, L. Rev.71, 2004, 511, https://chicagounbound.uchicago.edu/cgi/viewcontent.cgi?article=5261&context=uclrev, (2023. 04. 11.).
[8] SABINE GLESS: AI in the courtrooms: A comparative analysis of machine evidence in criminal trials, Georgetown Journal of International Law, Vol 51., 2020, 211, https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3602038 (2023. 04. 11.).
[9] Uo.
[10] GLESS i. m. 207–208.
[11] MAZLINA MAHALI ET AL.: Artificial intelligence as expert in the future: Issues and challenges under Section 45 of the Malaysian Evidence Act 1950, (2023. 03. 11.), 1 LNS (A), 2022, 1. https://www.researchgate.net/publication/358995881 (2023. 03. 11.).
[12] A ténymegállapító és a bíróság kifejezéseket szinonim értelemben használja a cikk.
[13] European Commission, Artificial Intelligence for Europe [SWD(2018) 137 final] Communication from the Commission to the European Parliament , the European Council, the Council, the European Economic and Social Committe and the Regional Committee, https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN (2023. 04. 10.).
[14] ZARSKY TAL Z.: An analytic challenge: discrimination theory in the age of predictive analytics, A Journal of Law and Policy for the Information Society, vol. 14, no. 1, 2017. (11–35) 12. ISJLP_V14N1_011.pdf (1.438Mb) (2023. 05. 03.).
[15] PAUL DOURISH: Algorithms and their others. Big Data & Society, 2016, 3, https://doi.org/10.1177/2053951716665128 (2023. 04. 11.).
[16] MAHALI i. m.11.
[17] ETHEM ALPAYDIN: Machine learning: the new AI. MIT Press 2016, 51. machine-learning-the-new-ai-alpaydin-2016pdf_compress.pdf (2023. 04. 28.).
[18] ZUIDERVEN BORSIUS op.cit. 12–14.
[19] MAHALI i. m. 5.
[20] Uo.
[21] Uo.
[22] FINSZTER GÉZA: Valósághű tényállás, avagy az anyagi igazság megállapítása in MADAI SÁNDOR – PALLAGI ANIKÓ – POLT PÉTER (szerk.): Sic itur ad astra, Ünnepi kötet a 70 éves Blaskó Béla tiszteletére, Budapest, 2020, 188.
[23] CSÉKA ERVIN: A büntető ténymegállapítás elméleti alapjai. Budapest, KJK, 1968, 122.
[24] FARKAS ÁKOS – ERIKA RÓTH: A büntetőeljárás [Digitális kiadás.] Budapest, Wolters Kluwer Hungary Kft., 2019, https://doi.org/10.55413/9789632959054 (2023. 02. 07.).
[25] Uo.
[26] FENYVESI CSABA – HERKE CSONGOR – TREMMEL FLÓRIÁN: Új magyar büntetőeljárás, Dialóg Campus Kiadó, Budapest–Pécs, 2004, 211–230.
[27] TREMMEL FLÓRIÁN: Bizonyítékok a büntetőeljárásban, Dialóg Campus, Budapest–Pécs, 2006. 33.
[28] KIRÁLY TIBOR: Büntetőítélet a jog határán. Tanulmány a perbeli igazságról és valószínűségről, Budapest, KJK, 1972, 139.
[29] GARY EDMOND – JOËLLE VUILLE: Comparing the use of forensic science evidence in Australia, Switzerland, and the United States: Transcending the adversarial and non-adversarial dichotomy, Jurimetrics, SPRING 2014, Vol. 54, No. 3, American Bar Association Stable, https://www.jstor.org/stable/24395600 , 222–223. (2023. 05. 02.).
[30] Uo. 223.
[31] BÉRCES VIKTOR: A büntetőperbeli bizonyítás alapfogalmainak dogmatikai megközelítései a hazai jogtudományban, Iustum Aequum Salutare XIV. 2018. 1, 19–32.
[32] Uo. 11.
[33] ADHEMAR ESMAIN: A History of Continental Criminal Procedure with Special Reference to France, Little Brawn and Co, Boston, 1913 in FARKAS–RÓTH, Budapest, Wolters Kluwer Hungary Kft., 2019, https://doi.org/10.55413/9789632959054 , (2023. 02. 07.).
[34] FARKAS ÁKOS –RÓTH ERIKA: A büntetőeljárás [Digitális kiadás.] Budapest, Wolters Kluwer Hungary Kft., 2019, https://doi.org/10.55413/9789632959054 , (2023. 02. 07.).
[35] Be. 163. § (3) bekezdés c) pont.
[36] BALÁZS ELEK: A bírói meggyőződés és a megalapozott tényállás összefüggései, Jura 2014/1. 46.
[37] BH+ 2016.7 I.
[39] KÚRIA, JOGGYAKORLAT-ELEMZŐ CSOPORT: A szakértői bizonyítás a bírósági eljárásban, Összefoglaló vélemény 2014. 52., https://kuria-birosag.hu/sites/default/files/joggyak/osszefoglalo_velemeny_2.pdf (2022. 10. 06.).
[40] EDMOND i. m. 221–276.
[41] ROBERT P. BURNS: The Death of the American Trial, Faculty Working Papers, 2009. 176. https://scholarlycommons.law.northwestern.edu/facultyworkingpapers/176 , (2023. 02. 07.).
[42] Bírósági határozatok 293 F. 1013 (D.C. Cir. 1923) és 509 U.S. 579 (1993).
[43] Daubert felváltotta a régóta fennálló elfogadhatósági standardot, lásd DAVID E. BERNSTEIN – JEFFREY D. JACKSON: The Daubert Trilogy in the States, Jurimetrics 44. 2004, 351, 355–356.
[44] MURPHY: The New… i. m. 756–757.
[45] EDMOND i. m. 243.
[46] Uo.
[47] Federal Rules of Evidence 2023, Michigan Legal Publishing Ltd.,2022. december 1., 7. cikk, Opinions and expert testimony, Rule 702, https://www.rulesofevidence.org/ (2023. 05. 10.).
[48] BRANDON GARRETT: Convicting the Innocent: Where Criminal Prosecutions Go Wrong (2011) (azzal érvelve, hogy sok téves elítélés a nem megfelelő törvényszéki szakértelem, a hozzá nem értés és a tévedés eredménye) 78., lásd: ALAN YOUNG: Book Review: Convicting the Innocent: Where Criminal Prosecutions Go Wrong, by Brandon L. Garrett, Osgoode Hall Law Journal 50.2, 2012, 491–498. http://digitalcommons.osgoode.yorku.ca/ohlj/vol50/iss2/8 (2023. 05. 03.).
[49] EDMOND i.m. 238–244.
[50] Részrehajló ellenőrzés.
[51] GLESS i. m. 195–196.
[52] MURPHY i. m. 721.
[53] GLESS i. m. 199.
[54] Uo. 211.
[55] Uo. 212.
[56] Uo. 219.
[57] DAMAŠKA i. m. 14.
[58] GLESS i. m. 220.
[59] EDMUND, i. m.
[60] MAHALI i. m. 9.
[61] Uo.
[62] PATRICK W. NUTTER: Machine learning evidence: admissibility and weighting, Constitutional Law Journal 21(3), 2019. 919–958., https://scholarship.law.upenn.edu/jcl/vol21/iss3/8. (2023. 04. 28.).
[63] MAHALI i. m. 8.
[64] Európai Parlament, Artificial intelligence: threats and opportunities, Headlines, Society, 2020. https://www.europarl.europa.eu/news/en/headlines/society/20200918STO87404/artificial-intelligence-threats-and-opportunities?&at_campaign=20234-Digital&at_medium=Google_Ads&at_platform=Search&at_creation=RSA&at_goal=TR_G&at_audience=artificial%20intelligence&at_topic=Mesterséges_intelligencia&at_location=HU&gclid=Cj0KCQjwpPKiBhDvARIsACn-gzCKFEz8qDyo08VcwZWXEc1pZS_ISJ0FQysD-Mf0v_L3KoUejZu7GJMaAsLOEALw_wcB (2023. 05. 09.).
[65] J. C. VAN DIJK – PAUL WILLIAMS, The History of Artificial Intelligence – abstract from page https://link.springer.com/chapter/10.1007/978-1-349-12474-9_3, (2023. 05. 10.).
[66] DONALD H. BERMAN – CAROLE D HAFNER: The Potential of Artificial Intelligence to Help Solve the Crisis in Our Legal System, Communications de l’ACM 32(8), 1989, 928–938. https://dl.acm.org/doi/pdf/10.1145/ 65971.65972 , (2023. 05. 10.).
[67] HARRY SURDEN: Artificial Intellignece and the Law: An Overview, Georgia State University Law Journal 35 (4), 2019, 1328. https://readingroom.law.gsu.edu/gsulr/vol35/iss4/8/ (2023. 04. 11.).
[68] MAHALI i. m. 16.
[69] CAROL E BROWN – DAVID E O’LEARY: Introduction to Artificial Intelligence and Expert Systems, 1995, https://www.researchgate.net/publication/312166532_Introduction_to_artificial_intelligence_and_expert_systems, (2023. 03. 11.).
[70] MAHALI i. m. 14.
[71] MAHALI i. m. 16.
[72] THOMAS DINSMORE: East Artificial Intelligence Fail, https://thomaswdinsmore.com/2020/01/14/is-ai-failing (2023. 05. 03.).
[73] MAX TEGMARK: Advantage & Risk of Artificial Intelligence, https://futureoflife.org/background/benefits-risks-of-artificial-intelligence, (2023. 05. 09.).
[74] MIRJAN R. DAMAŠKA: Evidence Law Adrift, Yale University Press, 1997. JSTOR, http://www.jstor.org/stable/j.ctt32bnj3 , 151.
[75] European Parliament 2019–2024, P9_TA(2021)0405 Artificial intelligence in criminal law and its use by the police and judicial authorities in criminal matters, European Parliament resolution of 6 October 2021 on artificial intelligence in criminal law and its use by the police and judicial authorities in criminal matters (2020/2016(INI)), texts adopted https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_EN.pdf 6-8. (2023. 05. 03.).