A Say in AIDiskuseEnglish
Šest firem s umělou inteligencí se zavázalo ke čtyřem bezpečnostním opatřením. Co byste od nich požadovali vy?
Čtěte jednu větu po druhé. Souhlaste, nesouhlaste, nebo přeskočte. Když o několika zahlasujete, napište vlastní. Nevyžadujeme účet ani jméno.
Český text přeložil z angličtiny model umělé inteligence (Claude od Anthropicu, jedné ze sledovaných firem) a zatím ho nezkontroloval rodilý mluvčí. V případě nejasností platí anglická verze. Chybu v překladu nahlaste na hello@ctrlai.com.
Jak to funguje
- Vidíte vždy jedno tvrzení a stisknete Souhlasím, Nesouhlasím nebo Přeskočit. Nikdo nemůže nikomu odpovídat, takže se není o co hádat a nikdo vás nepřekřičí.
- Zapneme mapu názorů ze služby Polis. Po několika hlasech ukáže, kde mezi všemi účastníky stojíte, a která tvrzení podporují i velmi odlišné skupiny. To jsou tvrzení, na kterých se shodnou i lidé, kteří se jinak neshodnou.
- Zveřejníme výsledky spolu s tím, kolik lidí se zúčastnilo a co o nich nevíme. Počet kliknutí nikdy nevydáváme za názor země ani lidstva.
Diskuse
První tvrzení
Napsali jsme je my s pomocí Claude, modelu umělé inteligence od firmy Anthropic, aby diskuse měla s čím začít. Záměrně mezi nimi jsou i názory, které nesdílíme. Tvrzení o zpomalení a o umělé inteligenci, která se sama zlepšuje, odrážejí postoje, které ve své eseji z roku 2026 hájí generální ředitel Anthropicu Dario Amodei. Až se diskuse otevře, může kdokoli přidat svá. (34)
Dohoda
1Dohoda Bílého domu je dobrý první krok.
2Dohoda zatím stačí.
3Pravidla bezpečnosti pro nejvýkonnější AI by měla stanovit zákon.
4Firma by si neměla smět vybírat vlastního auditora.
5Výsledky auditů bezpečnosti AI by měly být zveřejněny.
6Když selže bezpečnostní opatření v AI firmě, měla by se to veřejnost dozvědět.
7Přísná pravidla v jedné zemi by přesunula vývoj AI do zemí se slabšími pravidly.
Kdo rozhoduje
8Lidé mimo Spojené státy by měli mít formální právo spolurozhodovat o tom, jak se vyvíjí nejpokročilejší AI.
9O tom, co smí nejvýkonnější AI dělat, by měly rozhodovat zvolené vlády, ne firmy.
10O pravidlech pro AI by měli spolurozhodovat obyčejní lidé vybraní losem.
11Pravidla pro AI by měli tvořit odborníci a zvolení politici, ne panely obyčejných lidí.
12Ve správní radě firmy by měli sedět lidé vybraní veřejností.
13Rozhodnutí o nejpokročilejší AI by měla zůstat lidem s odbornými znalostmi.
14Nejpokročilejší AI potřebuje smlouvu mezi státy.
Tempo a hranice
15Firmy by měly zpomalit nejvýkonnější AI, dokud nepochopíme, jak ji udělat bezpečnou.
16Firmy jsou nejlépe vybaveny k tomu, aby rozhodly, jak svou AI učinit bezpečnou.
17Vlády by měly s pravidly pro AI počkat, až budou rizika lépe pochopena.
18Pokud zpomalíme, vyhrají méně opatrné firmy nebo státy.
19AI, která se sama zlepšuje bez lidského přezkoumání, by měla být zakázána.
20Firma by měla potřebovat povolení, než začne trénovat mnohem schopnější AI.
Vaše vlastní AI
21Moje AI by mi měla vždy říct, s čím mi nemůže pomoci, i když nemůže říct proč.
22Moje AI by mi nikdy neměla lhát.
23Je v pořádku, když moje AI zjemní pravdu, aby byla laskavá.
24Lidé by si měli moci zvolit pravidla, kterými se řídí jejich vlastní AI, například jak je opatrná nebo jak mluví bez obalu.
25Firmy vyvíjející AI by neměly využívat moje konverzace k trénování svých modelů bez mého výslovného souhlasu.
Když AI jedná za vás
26AI, která jedná za mě, by se měla zeptat, než utratí moje peníze.
27AI, která jedná za mě, by se měla zeptat, než sdílí moje data.
28Mělo by mi být možné kdykoli AI odebrat oprávnění.
29Když AI oprávnění odeberu, všechno, co dělala, by se mělo zastavit.
30Je v pořádku, když AI jedná za mě a nemusí se mě pokaždé ptát, pokud potom mohu vidět, co udělala.
31Skupina, která používá službu s AI, by měla moci stanovit její podmínky, ne jen firma, která ji provozuje.
32Lidé, které ovlivňuje AI, kterou sami nepoužívají, by měli mít slovo v pravidlech, jimiž se řídí.
Jak zacházíme s AI
33To, jak lidé zacházejí se systémem AI, není morální otázka.
34Firmy vyvíjející AI by měly omezit krutost vůči své AI.