Etický kodex a praktická pravidla pro využití nástrojů umělé inteligence Člověkem v tísni

Nástroje AI se už nějakou dobu využívají jako pomocníci k nejrůznějším pracovním úkonům. Už nějakou dobu se využívají v překladačích, hlasových asistentech, reklamních systémech, fotogaleriích nebo ve filtrování spamu, v posledním čase navíc zažívají boom díky velkým jazykovým modelům nebo generátorům obrazů a fotek. Tím se dostaly do veřejného prostoru a pomáhají nám při běžném životě.

Připravili jsme proto etické principy a praktickou sadu pokynů pro kolegy z Člověka v tísni, jak tyto služby (ne)využívat, abychom zajistili bezpečnost našich dat nebo transparentní označování výtvorů AI. 

Obecné zásady

• Jsme zodpovědní a transparentní

• Respektujeme lidská práva a dbáme na životní prostředí

• Vzděláváme a usilujeme o to, aby z AI měla prospěch celá společnost

• Dbáme na bezpečnost a ochranu dat

Praktická pravidla pro využití nástrojů AI

• Základní pravidla pro práci s AI
• Bezpečnost a citlivost dat
• Generování obrazu, videa a audia
• Environmentálně zodpovědné využívání AI nástrojů

Následující kodex i pravidla budeme revidovat a upřesňovat podle potřeb a momentálního vývoje.

Obecné zásady

Základním východiskem pro využití nástrojů AI je rozvoj a rozšíření lidských schopností ve prospěch svobody, zajištění práv jednotlivce i prospěchu celé společnosti.

Jsme zodpovědní a transparentní

• Zodpovědnost za využití nástrojů AI a jejích produktů nese vždy konkrétní zaměstnanec, který je používá, a jeho nadřízený.  
• Nástroje AI využíváme transparentně. Audiovizuální obsah kompletně vygenerovaný AI, musí být jasně označen a transparentní vůči příjemcům pomoci, donorům, partnerům a veřejnosti. Nikdy negenerujeme ani neupravujeme audiovizuální materiály způsobem, který by mohl zkreslit realitu nebo vyvolat falešný dojem o naší práci či dokumentovaných událostech, kromě výjimečných případů níže.
• Využití nástrojů AI je odůvodněné zkvalitněním naší práce. Nechceme generovat vyšší množství obsahu na úkor kvality. 
• Jejich využití musíme umět vysvětlit, abychom zajistili kontrolu nad vlastním rozhodováním a správně interpretovali výsledky generované AI.

Respektujeme lidská práva a dbáme na životní prostředí

• Nástroje AI využíváme v souladu s Všeobecnou deklarací lidských práv a svobod. S ohledem na možné riziko vzniku zkresleného či diskriminačního obsahu generovaného umělou inteligencí dbáme na to, abychom vyloučili diskriminaci skupin a jednotlivců na základě rasy, původu, pohlaví, náboženství, sexuální orientace či politických názorů.
• Dbáme na zajištění rovnosti a psychické integrity, aby v důsledku využívání nástrojů AI nedocházelo ke zneužívání lidských a psychických slabin jednotlivců či skupin, a vytváření informační či mocenské nerovnováhy. Usilujeme o zachovaní rovnosti a lidské důstojnosti. 
• Při využívání nástrojů umělé inteligence zohledňujeme jejich dopad na životní prostředí. Aktivně sledujeme a vyhodnocujeme spotřebu energie spojenou s provozem AI nástrojů. Podporujeme využívání energeticky efektivních modelů a technologií a zaměstnance školíme v oblasti efektivního a odpovědného využívání AI nástrojů, včetně osvěty o jejich environmentálních dopadech. 

Vzděláváme a usilujeme o to, aby z AI měla prospěch celá společnost

• Ve vzdělávání usilujeme o to, aby z umělé inteligence měly prospěch bez rozdílu všechny děti. Informujeme a vzděláváme pedagogickou veřejnost, studenty*ky i žáky*ně, aby rozuměli jejímu fungování, uměli její nástroje využít a znali jejich omezení i rizika.
• Usilujeme o to, aby přístup k AI, informace o přínosech i rizicích AI a know-how ve využití jejích nástrojů bylo dostupné nejzranitelnějším skupinám, aby z nich měla prospěch celá společnost. 
• Nástroje AI využíváme pro rozšíření přístupnosti našich služeb a informací lidem se sluchovým, zrakovým, mentálním a jiným postižením.  

Dbáme na bezpečnost a ochranu dat

• Pro práci s daty organizace používáme výhradně schválené a bezpečné nástroje. Nikdy však do nástrojů AI nevkládáme taková data, jejichž zneužití by vážně ohrozilo příjemce naší pomoci a naše partnery, či organizaci Člověk v tísni. 
• Vždy dodržujeme GDPR a interní pravidla pro ochranu osobních údajů a důvěrných informací, abychom předešli jejich úniku či zneužití. 

Praktická pravidla pro využití nástrojů AI

Základní pravidla pro práci s AI 

• Nebojíme se experimentovat, ale vždy zvažujeme účelnost a rizika v souladu s hodnotami organizace a celkovým přínosem. Nástroje AI využíváme například pro brainstorming, draftování textů, úpravu stylistiky, překlady, analýzu dat, vyhledávání, rešerše, plnění komplexních či opakovaných úkolů, programování, zjišťování excelových funkcí a podobně. 
• Umělá inteligence může generovat nepřesné, neúplné nebo zavádějící informace. Výstupy by měly být považovány za návrh nebo inspiraci, nikoliv za hotové řešení. Negenerujeme a nepoužíváme texty vytvořené umělou inteligencí mechanicky a bez důvodu. Nechceme zvyšovat produkci na úkor kvality nebo nahradit osobitost průměrem. Před použitím výstupu AI v praxi je nutné zkontrolovat jeho fakticitu a ověřit zdroje, ze kterých čerpá.
• Za kvalitu a správnost výstupů vytvořených s pomocí AI nástrojů odpovídá vždy náš konkrétní zaměstnanec, který nástroj použil, a na výstupech uvádí své jméno, jako by byly jeho vlastním dílem. Ve specifických případech označí výstup jako vygenerovaný pomocí umělé inteligence.

Bezpečnost a citlivost dat

• Zvláště přísně dbáme na ochranu osobních údajů našich kolegů, klientů, či partnerů a na ochranu interních dat organizace. 
• Používání dat s kritickým rizikem v nástrojích umělé inteligence je zcela zakázáno. Typicky se jedná o interní data týkající se lidskoprávních projektů, rizikových zemí a oblastí nebo o citlivé osobní údaje příjemců pomoci. Tato data nesmí být do žádného nástroje AI nahrávána, kopírována, popisována ani jinak zpracovávána.
• Při práci s daty s nízkým, středním a vysokým rizikem používáme pouze schválené nástroje se stejnou, nebo vyšší úrovní bezpečnosti.

Generování obrazu, videa a audia 

• Audiovizuální obsah kompletně vygenerovaný umělou inteligencí musí být vždy označen jako výtvor AI, aby se předešlo záměně s autentickými fotografiemi, nahrávkami nebo profesionální prací grafiků. Jedinou výjimku tvoří výstupy používané výhradně pro interní komunikaci organizace.
• Nikdy zpětně neupravujeme existující fotografie, video či audio s využitím nástrojů AI. Výjimkou jsou technické a stylistické úpravy bez zásahu do obsahu, nebo úpravy prováděné za vzdělávacími nebo uměleckými účely (např. upscaling obrazu, vyčištění šumu z audia, generování edukativního videa o AI). V takovém případě transparentně informaci o využití AI uvádíme spolu s obrazem, videem či audiem. 
• Nikdy negenerujeme obraz, video či audio tak, aby mohly být zaměněny za dokumentaci naší činnosti a vytvářely falešný dojem o reálných událostech nebo o naší práci.
• Nikdy negenerujeme obrazy, videa či audia, u kterých by mohlo dojít k záměně s médiem fotografie, videozáznamu nebo záznamu reálného zvuku. Přípustnou výjimkou jsou situace, kdy pro vzdělávací účely chceme ilustrovat schopnosti nástrojů AI a rovněž využití AI v rámci umělecké tvorby – v takových případech transparentně uvádíme informaci o využití AI.
• Generátory obrazů, videí či zvuku můžeme využít pro vytváření kreseb a ilustrací, edukativních videí či filmů, zvláště v tvorbě napodobující ruční či digitální umělecké styly a v grafickém designu. V takovém případě je třeba vyžít nástroje a postupy tak, aby vygenerované výstupy neporušovaly autorská práva jiných osob a uvádíme informace o využití AI.  

Environmentálně zodpovědné využívání AI nástrojů