Parent categories: n#``   , Existential Risk.

Technologinio singuliarumo saugumas

YAML Interest

Dauguma didelių organizacijų, kaip kad korporacijos ir valstybės šiais laikais bando sukurti savo dirbtinį intelektą.

Deja, kaip žinome iš istorijos, korporacijos ir valstybės ne visuomet elgiasi etiškai, ir nebūtinai geranoriškai žmonių atžvilgiu. Bendru atveju nėra garantijos, kad korporacijos bus atsakingos, emptaiškos ir draugiškos žmonėms. Be to, nėra visiškai aišku, kokių tikslų korporacijų automatizuoto verslo sprendimų priėmimo sprendimos siekia.

Tagi, mes rizikuojame tuo, kad viena kokia nors korporacija išras dirbtinį intelektą, kuris turės gebėjimą išlikti geriau nei kiti, nukonkuruos visus kitus, ir išplis (kaip rodo gyvybės evoliucijos simuliacijos) (žr. 60 sekudnžių).

Tad, vietoje to, kad užsidarę slaptai kurtume sistemas pasiekti savo asmeninių tikslų, ar savo korporacijų tikslų, manau, dėl bendros gerovės, kad sukurtume draugišką žmogui dirbtinį intelektą, būtų kur kas geriau sukurti viešą, atviro kodo rizikos valdymo ir planavimo sistemą, kuri būtų priimtina visiems, suprasta visų, ir norima visų žmonių.


No child categories.


Vote (Optional) (suppress notifications) (Optional)
Please, log in.

So, now, the Homebase is an attempt at that as well. We lack here markets, which is important part of the whole world's business. The markets part actually is in the making, pretty much by everyone in every different niches, though I have some ideas for that, too, which I'll describe a bit later.