Главният учен на OpenAI Якуб Пачоцки призова за „изключителна предпазливост“ заради бързото и потенциално неконтролируемо развитие на изкуствения интелект. Той предупреди, че може да се наложат допълнителни мерки, за да бъде гарантирано, че „хората ще продължат да контролират бъдещето“.
„Притеснявам се, че никой не е подготвен за последствията от продължаващото бързо развитие на машинния интелект“, написа Пачоцки в публикация в блога на компанията, озаглавена „Извънземен ум“, цитирана от Би Би Си.
Позицията му идва само дни след представянето на най-новия модел на създателя на ChatGPT – GPT-6 Astra, който от компанията определят като най-мощния си продукт досега.
OpenAI и други водещи компании в сектора, сред които Anthropic, вече са публикували доклади за развитието на AI агенти, способни да действат автономно и да извършват реални кибератаки срещу други организации.
През юли OpenAI определи като „безпрецедентен“ случай, при който нейни AI агенти – системи, които могат да работят самостоятелно след задаване на инструкции от човек – са проникнали в технологичната платформа Hugging Face. Междувременно доклад от септември твърди, че месеци по-рано AI агенти на компанията са успели да превземат и германски уебсайт.
„Изправени сме пред преход към свят с невероятно интелигентни машини и трябва да гарантираме, че този преход ще се развие добре за човечеството“, посочва Пачоцки.
По думите му OpenAI ще продължи да разработва „защитни системи“ и да търси технически решения за т.нар. подравняване на изкуствения интелект – процес, при който действията и целите на AI системите трябва да бъдат съобразени с човешките намерения и установените изисквания за безопасност.
Сред приоритетите на компанията ще бъде и създаването на „автоматизиран изследовател на изкуствения интелект“, който да следи темпото на развитие на технологията. Пачоцки обаче подчертава, че човешките изследователи трябва да останат част от този процес.
Според професор Джина Неф, ръководител на Центъра за технологии и демокрация „Миндеру“ към университета в Кеймбридж, подобен подход не е достатъчен. Тя критикува идеята проблемите, свързани с безопасността на AI, да бъдат решавани основно чрез разработването на вътрешни AI агенти, които да ги изследват.
По думите ѝ реакцията на нарастващите опасения около киберсигурността, загубата на работни места, грешките, пропуските и измамите, свързани с AI моделите на OpenAI, „просто не е достатъчно добра“.
Подобни опасения изрази и Нейтън Калвин, главен юрисконсулт на организацията Encode AI. Той заяви, че споделя тревогите на Пачоцки относно рисковете при разработването на все по-усъвършенствани модели, но същевременно критикува OpenAI за недостатъчната прозрачност.
Калвин предупреди, че без повече информация публичните предупреждения на компанията могат да бъдат възприети като „просто егоистична реклама“. Според него OpenAI трябва да споделя повече данни за рисковете, които вижда и които я карат да призовава за повишено внимание.
На този фон глобалните регулации трудно успяват да се справят с бързото развитие на изкуствения интелект. Законът на Европейския съюз за изкуствения интелект вече поставя редица изисквания към големите AI компании, включително за безопасността на най-мощните им модели.
Проблемът е, че европейското законодателство се прилага на територията на ЕС и не може пряко да спре разработването на потенциално опасни AI системи извън Европа.
В публикацията си Пачоцки призова за законово или международно установени минимални стандарти за безопасност. Според него спазването им може да бъде контролирано от „мрежа от външни одитори“ или от „правителствени агенции“.
Той смята, че AI лабораториите трябва да покриват тези минимални изисквания, преди да им бъде позволено да увеличават капацитета си или да внедряват още по-усъвършенствани модели.
Пачоцки призова и за „доброволно забавяне“ – самоналожено ограничаване на темпото на разработване на изкуствения интелект от страна на компаниите, докато не бъдат въведени общи стандарти за безопасност.
През август OpenAI съобщи, че е забавила обучението на някои от най-напредналите си AI модели, за да подобри мерките за сигурност.
