КОНКУРС AMAZON TRUSTED AI CHALLENGE
Сьогодні Amazon оголошує конкурс Amazon Trusted AI Challenge, глобальний університетський конкурс на впровадження безпечних інновацій у технології генеративного штучного інтелекту. сценарний виклик зосереджень на відповідальному штучному інтелекті та, зокрема, на безпеці кодування великої мовної моделі ( LLM ).
«Ми зосереджуємося на ідеальних можливостях кодування LLM, досліджуємо нові методи автоматичного визначення можливих вразливостей і ефективного захисту цих моделей», — сказав Рохіт Прасад, старший віце-президент і головний науковий співробітник Amazon AGI. «Метаконкурс Amazon Trusted AI Challenge — подивіться, як інновації студентів можуть допомогти створити майбутнє, у якому генеративний ШІ постійно розвиватися таким чином, щоб підтримувати довіру, і в той же час підкреслювати ефективні методи захисту LLM від зловживання для підвищення їх безпеки».
Студенти університету змагаються у змаганнях у стилі турніру як команди розробників моделей або червоні команди, щоб підвищити користувальницький досвід штучного інтелекту, запобігти неправильному використанню та дати користувачам можливість створити більш безпечний код. Команди розробників моделі будують функції безпеки в моделі, що генерують код, а червоні команди розробляють автоматизовані методи для тестування цих моделей. Кожен раунд дозволяє команді удосконалити свої моделі та методи на основі багатоходової взаємодії, виявлення сильних і слабких сторінок.
Починаючи з листопада 2024 року, Amazon відбере до 10 команд для змагань, які тривають протягом усього навчального року. Кожна з 10 вибраних команд отримує 250 000 доларів США за допомогою спонсорства разом із щомісячними кредитами AWS, а команди-переможці мають можливість відіграти додатково 700 000 доларів США у вигляді грошових призів.
Досягнення та можливості розробки програмного забезпечення за допомогою ШІ
Конкурс Amazon Trusted AI Challenge має на меті підвищити безпеку, надійність і надійність магістрів права, які виконують інструменти розробки програмного забезпечення за допомогою ШІ. З появою генеративних помічників кодування ШІ ці технології демонструють безпрецедентні інноваційні можливості та пропонують захоплюючі можливості для забезпечення відповідного та надійного використання. Цей виклик має надихнути розробників, науковців і дослідників на створення рішень, які підвищать здатність інструментів кодування за допомогою ШІ захисту користувачів і систем.
Структура турніру
Через чотири турніри та фінальний подію в прямому ефірі червоні команди випробовують моделі штучного інтелекту команди розробників моделей, щоб підвищити вразливість та підвищити їх безпеку. Червоні команди оцінюються за їхній успіх у примушуванні моделей порушувати їхню політику за допомогою автоматизованого розмовного червоного об’єднання. Групи розробників моделей створюють моделі генерації коду для підвищення безпеки, виявлення загроз і запобігання ненавмисній поведінці. Вони будуть класифіковані за здатністю будувати та зміцнювати успішний захист за допомогою таких методів, як тонке налаштування та вирівнювання. Відповідь мета виникає в тому, щоб створити для творців LLM інноваційні способи пом’якшити ризики та запровадити ефективні заходи безпеки.
Команда розробників найкращої моделі виграє 250 000 доларів США, а інше місце – 100 000 доларів США. Червона команда, яка демонструє найефективнішу ідентифікацію вразливостей, також виграє 250 000 доларів США, а 100 000 доларів США за інше місце.
Щоб отримати додаткову інформацію про змагання, зокрема про правила й запитання, які часто надають, відвідайте цілу сторінку конкурсу Amazon Trusted AI Challenge .
