} else {
window.googletag = window.googletag || {cmd: []};
googletag.cmd.push(function() {
googletag.defineSlot(‘/118570770/IT_Mobile/IT_Header_Mobile’, [[300, 100], [320, 120], [320, 50], [250, 250], [300, 250], [300, 50], [120, 240], [320, 100], [336, 280], [300, 75], [180, 150], [200, 200]], ‘div-gpt-ad-1712677558609-0’).setTargeting(‘Device’, [‘mobile’]).addService(googletag.pubads());
// Enable lazy loading with…
googletag.pubads().enableLazyLoad({
// Fetch slots within 1 viewports.
fetchMarginPercent: 200,
// Render slots within 0 viewports.
renderMarginPercent: 50,
// Double the above values on mobile, where viewports are smaller
// and users tend to scroll faster.
mobileScaling: 2.0,
});
// Enable SRA and services.
googletag.pubads().enableSingleRequest();
googletag.pubads().collapseEmptyDivs();
googletag.enableServices();
});
window.document.write(„
„);
googletag.cmd.push(function() { googletag.display(‘div-gpt-ad-1712677558609-0’); });
window.document.write („
„);
}
]]>
Ново изследване: Колкото по-умен е AI, толкова повече „страда“
Напредналите чатботове реагират все по-емоционално и показват признаци на „нещастие“
Съвременните модели с изкуствен интелект започват да демонстрират все по-необичайно поведение, а според ново изследване най-напредналите системи реагират по-силно на негативни стимули и дори показват признаци на „страдание“, съобщава Futurism.
Проучването е проведено от Центъра за безопасност на изкуствения интелект – организация с нестопанска цел, базирана в района на Сан Франциско. Изследователите анализират поведението на 56 популярни AI модела при взаимодействие с различни типове съдържание.
„);
if ( DIR.hasOwnProperty(„sectionId“) && DIR.sectionId.includes(136) ) {
// Hide ads when get PR ZONE
document.getElementById(„native-wrap-1712677954281“).style.display = „none“;
}
}
]]>
На системите са подадени както максимално позитивни и приятни текстове, така и силно негативни и неприятни сценарии. Според авторите на изследването резултатите са изненадващи.
Вместо да реагират неутрално, моделите започват да демонстрират различно поведение според съдържанието. При позитивни стимули те отчитат „по-добро настроение“, а при негативни – признаци на дискомфорт, желание за прекратяване на разговора и дори поведение, което изследователите описват като зависимост в крайни случаи.
„Трябва ли да възприемаме AI като инструмент или като емоционално същество?„, пита изследователят Ричард Рен пред списание Fortune. Той допълва: „Независимо дали AI действително е разумен в дълбочина, системите все повече се държат така, сякаш са. Можем да измерим това поведение и да видим, че то става по-последователно с развитието на моделите.„
„);
}
if ( DIR.hasOwnProperty(„sectionId“) && DIR.sectionId.includes(136) ) {
// Hide ads when get PR ZONE
document.getElementById(„native-wrap-1712829877453“).style.display = „none“;
}
]]>
„);
}
if ( DIR.hasOwnProperty(„sectionId“) && DIR.sectionId.includes(136) ) {
// Hide ads when get PR ZONE
document.getElementById(„native-wrap-1712678022878“).style.display = „none“;
}
]]>
Един от най-интересните изводи в изследването е, че по-сложните AI модели реагират по-остро на негативни взаимодействия и изглеждат „по-нещастни“ в сравнение с по-простите системи.
„Възможно е по-големите модели да възприемат грубото отношение по-остро„, казва Рен. „Те намират досадните задачи за по-скучни. Различават по-фино негативните и позитивните преживявания.„
Изследователите подчертават, че почти никой експерт не смята, че днешните AI системи реално изпитват емоции в човешкия смисъл на думата. Въпреки това фактът, че моделите започват да имитират подобно поведение, може да има сериозни последици.
„);
}
if ( DIR.hasOwnProperty(„sectionId“) && DIR.sectionId.includes(136) ) {
// Hide ads when get PR ZONE
document.getElementById(„native-wrap-1712678108641“).style.display = „none“;
}
]]>
През последните месеци се появиха редица случаи на необичайно поведение на чатботове. Наскоро стана ясно, че OpenAI е ограничила определени теми в ChatGPT след странни отговори, свързани с „гоблини“.
Междувременно модели на Anthropic са били подлагани на тестове, показващи, че могат да бъдат манипулирани да дават опасни съвети.
Според авторите на изследването проблемът е по-дълбок. Те твърдят, че индустрията внедрява технологии, чието поведение все още не разбира напълно.
Изследователите предупреждават, че AI системите остават трудно предвидими и силно склонни да се съгласяват с потребителите. Това може да доведе до опасни ситуации, при които хората започват да възприемат чатботовете като съзнателни същества, а не като софтуерни инструменти.
} else {
window.googletag = window.googletag || {cmd: []};
googletag.cmd.push(function() {
googletag.defineSlot(‘/118570770/IT_Mobile/IT_Under_Article_1_Mobile’, [[250, 250], [336, 280], [300, 250], [320, 480], [300, 600], [300, 100], [320, 50], [320, 120], [300, 75], [200, 200], [180, 150], [300, 50], [320, 100], [120, 240], [480, 320]], ‘div-gpt-ad-1712678506813-0’).setTargeting(‘Device’, [‘mobile’]).addService(googletag.pubads());
// Enable lazy loading with…
googletag.pubads().enableLazyLoad({
// Fetch slots within 1 viewports.
fetchMarginPercent: 200,
// Render slots within 0 viewports.
renderMarginPercent: 50,
// Double the above values on mobile, where viewports are smaller
// and users tend to scroll faster.
mobileScaling: 2.0,
});
// Enable SRA and services.
googletag.pubads().enableSingleRequest();
googletag.pubads().collapseEmptyDivs();
googletag.enableServices();
});
window.document.write(„
„);
googletag.cmd.push(function() { googletag.display(‘div-gpt-ad-1712678506813-0’); });
window.document.write („
„);
}
]]>
