Възможни проблеми, свързани с генеративния изкуствен интелект

В общата картина на изкуствения интелект, генеративните AI инструменти демонстрират невероятен потенциал за развитие, но се капацитета им за вреда също става все по-очевиден. Изданието Visual Capitalist заедно с VERSES формулират някои опасения относно генеративните AI инструменти, използващи данни от различни източници.
Много от тях попадат в една от следните категории: контрол на качеството и точност на данните, етични съображения или технически предизвикателства.

Пристрастен, не пристрастен е свързан с темата: Контрол на качеството и точност

Един от критичните проблеми с генеративния AI се крие в тенденцията му да възпроизвежда отклонения, присъстващи в данните, върху които е бил обучен. Вместо да смекчат пристрастията, тези инструменти често ги увеличават или увековечават, повдигайки въпроси относно точността на техните приложения – което може да доведе до много по-големи проблеми около етиката.

Проблемът с черната кутия е свързан с темата: Етични и правни съображения

Друго значително препятствие при възприемането на генеративния ИИ е липсата на прозрачност в процесите на вземане на решения. С мисловни процеси, които често са неинтерпретируеми, тези системи са изправени пред предизвикателства при обяснението на своите решения, особено когато възникнат грешки по критични въпроси. Струва си да се отбележи, че това е по-широк проблем със системите с изкуствен интелект, а не само с генеративни инструменти.

Висока цена за обучение и поддръжка е свързан с темата: Сложност и технически предизвикателства

Обучението на генеративни ИИ модели като голям езиков модел (LLM) ChatGPT е изключително скъпо, като разходите често достигат милиони долари поради необходимата изчислителна мощност и инфраструктура. Например, сега бившият главен изпълнителен директор на OpenAI, Сам Алтман, потвърди, че обучението на ChatGPT-4 струва огромните 100 милиона долара.

Безсмислено папагалство е свързан с темата: Контрол на качеството и точност

Въпреки разширените си възможности, генеративните ИИ са ограничени от данните и моделите, на които са били обучени. Това ограничение води до резултати, които може да не обхващат широчината на човешкото познание или да не се отнасят за различни сценарии.

Привеждане в съответствие с човешките ценности е свързан с темата: Етични и правни съображения

За разлика от хората, генеративните ИИ нямат капацитет да обмислят последствията от своите действия в съответствие с човешките ценности. Въпреки че случаи като генерирания от ИИ „Balenciaga Pope“ може да изглеждат безобидни, важно е да се признае, че deepfakes могат да се използват за по-вредни цели, като например разпространение на невярна информация в лицето на кризи в общественото здраве. Това подчертава необходимостта от повече рамки, които гарантират, че тези системи работят в рамките на етичните граници.

Гладен за енергия е свързан с темата: Сложност и технически предизвикателства

Въздействието на генеративния ИИ върху околната среда не може да бъде пренебрегнато. С процесорни единици, консумиращи значителна мощност, модели като ChatGPT струват толкова, колкото захранването на 33 000 домакинства в САЩ, като само едно запитване изисква 10 до 100 пъти повече енергия от един имейл.

Халюцинации е свързан с темата: Контрол на качеството и точност

Известно е, че генеративните ИИ модели създават изфабрикувани изявления или изображения, когато са изправени пред пропуски в данните, което поражда опасения относно надеждността на техните резултати и потенциалните последствия. Например в промоционален видеоклип на Google Bard чатботът неправилно твърди, че космическият телескоп James Webb е заснел първите изображения на планета извън слънчевата система на Земята.

Нарушаване на авторски права и IP е свързан с темата: Етични и правни съображения

Етичното използване на данни става първостепенно, като се има предвид, че няколко генеративни ИИ инструмента присвояват произведения, защитени с авторски права, без съгласие, кредит или компенсация, нарушавайки правата на артисти и творци. OpenAI наскоро въведе компенсационна програма, наречена Copyright Shield, която покрива съдебни разходи за искове за нарушаване на авторски права за определени клиентски нива, вместо да премахва защитени с авторски права материали от обучителния набор от данни на ChatGPT.

Статична информация е свързан с темата: Сложност и технически предизвикателства

Поддържането на генеративните ИИ модели актуални изисква значителни изчислителни ресурси и време, което представлява огромно техническо предизвикателство. Някои модели обаче са предназначени за постепенни актуализации, предлагайки потенциално решение на този сложен проблем.