Kategória: érdekesség | Cimkék: ismeretterjesztő , kiberbiztonság , külföld , mesterséges intelligencia
Szerző: Logosz
Frissítve: 2025-12-28
A távol-keleti óriás kiberbiztonsági hatósága mostantól korlátozná az emberi személyiséget utánzó, a felhasználó érzelmeire apelláló AI-szolgáltatásokat.
Az intézkedésre azért kerül sor, mert az AI-robotok gyors terjedésével szigorúbb biztonsági és etikai követelményekre van szükség a kínai állam szerint. A tervezet azokra a náluk előállított AI-termékekre és szolgáltatásokra vonatkozna, amelyek emberi személyiségjegyeket, gondolkodási mintákat és kommunikációs stílust utánoznak. Beletartoznak azok a rendszerek is, amelyek bármely szöveges, képi, hang- vagy videótartalmat használnak a felhasználó érzelmi befolyásolására.
A javaslat lényege, hogy a szolgáltatóknak jelezniük kell a felhasználóknak a túlzott használat kockázatait, sőt, függőség kialakulása esetén be is kellene avatkozniuk.
A szolgáltató a termék teljes élete során biztonsági felelősséggel tartozik, emellett ki kell építenie az algoritmusok felülvizsgálatára, az adatbiztonságra és a személyes adatok védelmére szolgáló rendszereket is.
Szólnak a pszichológiai kockázatról is: a szolgáltatónak fel kell mérnie a felhasználó érzelmi állapotát és függőségét, bármilyen szélsőséges érzelem vagy függőségre utaló jel esetén köteles lépni.
Az intézkedés tartalmi és viselkedési tiltásokat is tartalmaz. Nem hozható létre olyan tartalom, amely nemzetbiztonsági veszélyt hordoz, álhírnek minősül vagy erőszakos, esetleg obszcén jellegű.
