Омбудсманът Велислава Делчева поиска отпадането на текста от Законопроекта за изменение и допълнение на Закона за здравето, който предвижда автоматизирана система да определя кои решения на ТЕЛК и НЕЛК са рискови и да задейства тяхната пълна препроверка.
В официално становище преди второто четене на проекта общественият защитник настоява алгоритмите да нямат право самостоятелно да отменят експертни решения или да спират социални плащания без извършването на индивидуална преценка от медицински специалисти.
Основното притеснение на омбудсмана е липсата на ясни критерии за определяне на висок риск, както и опасността от директна дискриминация срещу хората с редки заболявания, тежки или множествени увреждания. Според Делчева, ако системата използва самообучаващ се изкуствен интелект за откриване на аномалии, тя може автоматично да маркира сложните и необичайни медицински случаи като подозрителни единствено заради тяхната специфичност.
Затова се предлага контролът да се извършва само по предварително зададени и одобрени от хора правила, а адресът и видът на заболяването да не бъдат показатели за риск.
За да се гарантира правната сигурност, Делчева предлага създаването на самостоятелен нов член в закона, който да задължи алгоритмите да имат единствено сигнална функция към компетентните органи, без да заместват медицинската експертиза. Становището настоява още за задължителен независим одит на системата, извършване на оценка на въздействието върху личните данни и консултации с организациите на хората с увреждания, преди новият механизъм да влезе в сила.
