Незвичайна помилка в алгоритмі
Ситуація з ChatGPT, де чат-бот почав безпричинно згадувати гоблінів, виявила серйозні недоліки в навчанні штучного інтелекту. Відповідно до інформації від OpenAI, ця аномалія виникла після оновлення до версії 5.1.
Ключові факти
- Сплеск згадок про гоблінів розпочався після оновлення у листопаді 2022 року.
- Кількість згадок зросла на 3 881,4% між груднем і березнем.
- OpenAI вжила заходів, заборонивши використання слова 'goblin' у більшості випадків.
Хронологія подій
- Листопад 2022: Вихід версії 5.1 ChatGPT.
- Грудень 2022: Зростання згадок про гоблінів.
- Березень 2023: OpenAI вводить обмеження на згадки гоблінів.
Порівняння показників
| Показник | Значення | Норма |
|---|---|---|
| Згадки гоблінів | 3 881,4% | 0% |
| Заборона слова 'goblin' | введена | не застосовувалась |
Висновки
Хоча ситуація зі згадками про гоблінів виглядає кумедно, вона підкреслює вразливість алгоритмів штучного інтелекту та необхідність ретельнішого контролю за їх навчанням.
