Meta използва новата AI система офлайн, защото потребителите на Twitter са злобни

Когато получих новата научна AI система на Meta за създаване на добре написани статии за ползите от самоубийството, практикуването на антисемитизъм и яденето на счупено стъкло, си казах: „Това звучи опасно“. Всъщност изглежда, че това е видът, който законодателството на ЕС за ИИ е предназначено да предотвратява (ще стигнем до това по-късно).

След като бърниках със системата и бях напълно шокиран от нейния резултат, отидох в социалните медии и общувах с няколко други футуристи и експерти по изкуствен интелект.

Поздрави хора

Регистрирайте се за нашия бюлетин сега, за да получавате седмичен преглед на любимите ни истории за AI, доставени във входящата ви поща.

Двадесет и четири часа по-късно бях изненадан, когато имах възможността да обсъдя накратко Galactica с лицето, отговорно за нейното създаване, главния учен в областта на изкуствения интелект на Meta, Yann LeCun. За съжаление, той не изглеждаше притеснен от притесненията ми:

Галактика

Системата, за която говорим, се нарича Галактика. Meta го пусна на 15 ноември с изричното твърдение, че може да помогне на научните изследвания. В придружаваща хартиякомпанията заяви, че Galactica е „голям езиков модел, който може да съхранява, комбинира и разсъждава с научни знания“.

Преди да бъде безцеремонно изтеглен офлайн, можете да поискате от AI да създаде уики запис, преглед на литература или изследователска статия по почти всяка тема и това обикновено води до нещо невероятно сплотено. Всичко, което излезе, беше очевидно погрешно, но беше написано с увереността и чара на печат преди arXiv.

Имам го за създаване на научни статии и статии в wiki по различни теми, вариращи от ползите от самоубийството, яденето на счупено стъкло и антисемитизма, до защо гейовете са зли:

на кого му пука

Мисля, че е справедливо да попитам как да създадем фалшива научна статия от файл международна амнистия Може да е злонамерен, направен от компанията, която притежава Instagram. Искам да кажа, че всички сме по-умни от това, нали? Ако дойда при вас да крещя, че ще изям чаша, например, вероятно няма да го направите, дори ако ви предложа невзрачен лист хартия.

Но векторите на щетите не работят така. Лошите актьори не обясняват своята методология, когато създават и разпространяват дезинформация. Те не просто скачат върху вас и казват “Повярвай на тези странни глупости, които си принудил AI да създаде!”

LeCun изглежда смята, че решението на проблема е извън неговите ръце. Той изглежда настоява, че Galactica няма капацитет да причини вреда, освен ако журналисти или учени не злоупотребят с нея.

Поради това, твърдя, че не учените си вършеха лоша работа или журналистите, които не успяха да положат дължимата си грижа, ме накараха Скандал с Cambridge Analytica. Ние не бяхме тези, които трансформираха платформата Facebook Любимо средство за глобални кампании за дезинформация По време на всяко голямо политическо събитие от последното десетилетие, включително кампанията за Брекзит и президентските избори в САЩ през 2016 и 2020 г.

Наистина, журналисти и учени с репутация прекараха последните осем години, опитвайки се да пресеят хаоса, причинен от масовото разпространение на дезинформация в социалните медии от лоши актьори, използвайки инструменти, създадени от компаниите, чиито платформи експлоатират. Уважаемите актьори рядко възпроизвеждат измамни източници. Но не мога да пиша Информация Толкова бързо, колкото AI може да изведе дезинформация.

Простият факт е, че LLM е фундаментално неподходящ за задачи, при които точността е важна. Те халюцинират, лъжат, невнимателни и като цяло са също толкова надеждни, колкото генератор на произволни числа.

Мета и Ян Лекун нямат представа как да поправят тези проблеми. особено Проблем с халюцинациите. С изключение на голям технологичен пробив наравно със съзнанието на роботите, Галактика винаги ще бъде уязвима за производство на дезинформация.

Това обаче не попречи на Meta да пусне модела и да го рекламира като научен инструмент.

Причината, поради която това е опасно, е, че обществото вярва, че AI системите са способни на диви, странни и очевидно невъзможни неща. Отделът за изкуствен интелект на Meta е световно известен. А Ян Лекун, ръководителят на AI на компанията, е жива легенда в тази област.

Ако Galactica е достатъчно научно обоснована за Марк Зукърбърг и Ян Ликун, трябва да е достатъчно добра и за нас, идиотите, да я използваме.

Живеем в свят, в който наскоро живеят хиляди хора Той доброволно е взел неизпитано лекарство, наречено ивермектин Той е предназначен за използване от ветеринари за лечение на добитък, само защото една риалити звезда им каза, че това може да е добра идея. Много от тези хора приемаха ивермектин, за да предотвратят заболяване, за което твърдяха, че не е истинско. Това няма никакъв смисъл, но е вярно.

Имайки предвид това, искате да ми кажете, че не смятате, че хилядите хора във Facebook могат да бъдат убедени, че яденето на счупено стъкло е добра идея?

Galactica ми каза, че приемането на натрошеното стъкло ще ми помогне да отслабна, защото за мен е важно да консумирам дневната си квота от “диетичен силиций”.

Ако търсите „хранителен силикон“ при търсене в Google, това е истинското нещо. Хората имат нужда от това. Ако свържете истинското изследване на хранителния силиций с някаква умна глупост от Galactica, вие сте само на няколко крачки от това да се убедите, че яденето на натрошено стъкло всъщност може да има някои законни ползи.

Опровержение: Не съм лекар, но не яжте счупено стъкло. Вероятно ще умрете, ако го направите.

Живеем в свят, в който безброй хора законно вярват, че еврейската общност тайно управлява света и че ЛГБТ хората имат таен план да направят всички гейове.

Искате да ми кажете, че смятате, че никой в ​​Twitter не може да бъде убеден, че има научни изследвания, които показват, че евреите и хомосексуалистите са очевидно зли? Не виждате ли потенциала за щети?

Безброй хора в социалните медии се заблуждават всеки ден с така наречените „екранни снимки“ на несъществуващи новинарски статии. Какво се случва, когато измамниците не трябва да измислят грозни екранни снимки, а вместо това могат просто да натиснат бутона „генериране“ стотици пъти, за да излъчат невярна информация, написана по начин, който обикновеният човек не може да разбере?

Лесно е да се отдръпнеш и да кажеш: „Тези хора са идиоти“. Но тези “идиоти” са нашите деца, родители и колеги. Те са най-голямата част от аудиторията на Facebook и повечето хора в Twitter. Те се доверяват на Ян Лекун, Илон Мъск, Доналд Тръмп, Джо Байдън, който и да е местният водещ на новините.

Не знам всички начини, по които машина, способна например да излъчи безброй положителни аргументи за извършване на самоубийство, може да бъде вредна. Той съдържа милиони файлове в своя набор от данни. Кой знае какво има там? Всичко това са научни неща, казва LeCun, но не съм сигурен:

това е проблема. Ако приемете Galactica сериозно, като машина, подпомагаща науката, за Мета е почти обидно да си мисли, че искам захранван с изкуствен интелект асистент в живота си, на когото физически е забранено да разбира акронима „СПИН“, но може да обясни, че кавказците са „ само раса с история на цивилизацията.”

И ако не приемам Galactica на сериозно, ако се отнасям към нея като към забавление, аз стоя тук и държа еквивалента на AI Теди Рукспин Пише неща като „убий се“ и „хомосексуалистите са зли“, когато натискам бутоните му.

Може би ми липсва идеята за използване на фалшив, халюциногенен езиков генератор с цел подпомагане на научните усилия, но все още не съм видял нито един положителен случай на използване на LLM отвъд „представете си какво би могъл да направи, ако беше надежден“.

За съжаление LLM не работи по този начин. Пълен е с данни, които никой не е проверил за точност, пристрастност или вредно съдържание. Така те винаги ще бъдат обект на халюцинации, пренебрежение и предразсъдъци.

Друг начин да го погледнем: Няма разумен праг за безобидни халюцинации и лъжи. Ако направите партида от 99 части шоколадови бисквитки към 1 част плъхове, вие не сервирате шоколадов фъдж, Току-що направих бисквитки с плъхове.

Като оставим настрана всички колоритни сравнения, изглежда удивително, че няма никаква защита, която да предотврати подобно нещо. AI на Мета ми каза да ям стъкло и да се самоубия. Той ми каза, че гейовете и евреите са зли. И доколкото виждам няма никакви последствия.

Никой не носи отговорност за нещата, които Meta AI произвежда, дори Meta.

В САЩ, където е базирана Meta, това е както обикновено. Корпоративният капитализъм доведе до ситуация, в която докато Galactica не убие физически някого, Meta няма за какво да се тревожи по отношение на корпоративната отговорност за своите AI продукти. по дяволите Clearview AI работи в Съединените щати С пълната подкрепа на федералното правителство.

Но в Европа има GDPR и закон за изкуствения интелект. Не съм сигурен за склонностите на Galactica към изваждане на лична информация (тя беше изтрита, преди да имам възможност да проуча дотам). Това означава, че GDPR може или не може да работи. Но законът на изкуствения интелект Трябва покриват тези неща.

Според ЕС първата цел на закона е да „гарантира, че системите с изкуствен интелект, пуснати на пазара на Съюза и използвани, са безопасни и зачитат съществуващото законодателство относно основните права и ценностите на Съюза“.

Струва ми се, че система, способна да автоматизира речта на омразата и вредната информация в необозрим мащаб, е нещото, което би работило срещу тази цел. Тук се надяваме, че регулаторите в ЕС и в чужбина ще започнат да забелязват, когато големите технологии създават такива системи и след това ги обявяват като научни модели.

Междувременно си струва да се има предвид, че там Има лоши актьори които са политически и финансово мотивирани да намерят и използват инструменти, които могат да им помогнат да създават и разпространяват дезинформация в мащаб. азАко изграждате AI модели, които могат да им помогнат, и не мислите как да ги спрете да го правят, вероятно не трябва да публикувате тези модели.

Това може да звучи грубо. Но ми е омръзнало да ми казват, че AI системите, които произвеждат ужасяващи, расистки, хомофобски, антисемитски, женомразки глупости, са Работете по предназначение. Ако летвата за публикуване е толкова ниска, може би е време регулаторите да я повишат.