Низкий социальный кредитный рейтинг может быть, например, и за то, что какой-нибудь журналист или обычный гражданин посмеет разоблачить чиновничью коррупцию. За это его арестуют, посадят в тюрьму, оштрафуют, а с помощью низкого рейтинга если не полностью отсекут, то крайне ограничат в том, что ему будет дозволено делать в этой жизни.
Только в 2018 году китайские власти отказали почти восемнадцати миллионам человек подняться на борт самолета, а пяти с половиной миллионам – в поездках на высокоскоростных поездах. Их посчитали «ненадежными», они оказались в черном списке властей. Говорят, что большинство людей в этом черном списке – должники, не выполнившие свои обязательства по кредитам. Но кто может это подтвердить или опровергнуть, когда вся информация о том, как осуществляется подсчет этого рейтинга и что он детально из себя представляет, является закрытой информацией.
В 2018 году китайские власти заявили, что частью программы станет замораживание активов любого, кого сочтут «ненадежным». А теперь представьте, что все ваши активы внезапно исчезли только из-за того, что дорожная камера неправильно прочитала и распознала номерной знак вашего автомобиля.
Здесь самое время задать простой вопрос об огромной системе слежки: что происходит, когда система допускает ошибку? Что, если одна из этих тысяч камер неверно опознает гражданина, допустившего какое-то незначительное нарушение правил, а со временем по мере накопления таких ошибок сделает это достаточное количество раз, чтобы вызвать негативные последствия для совершенно невиновного гражданина?
Какие средства защиты есть у гражданина? И есть ли они вообще? Похоже, что нет, поскольку процесс, строго говоря, не является судебным. Система в значительной степени автоматизирована. А если к ней добавить еще и искусственный интеллект, то подумайте сами, кто окажется сильнее: обычный человек с его убогим умишком или искусственный – созданный лучшими умами страны, а то и всего мира – интеллект? Так что если ни в чем не повинного человека тупая железка с кремниевыми мозгами признала виновным во всех прегрешениях, то ему и судиться, чтобы отстоять свои права, особо не с кем. Замолкни, отойди в сторону и не мешай работать.
Другой вопрос заключается в том, действительно ли система подсчета баллов прозрачна, или инсайдеры могут приложить к ней руку, чтобы, например, отомстить личным врагам? Или тем, кто им просто чем-то не понравился?
Не менее интересен вопрос о том, кто и как может изменять вес оцениваемых факторов в автоматизированном программном обеспечении? Например, не сформирует ли критика правительства в Интернете в этом месяце один отрицательный балл, а в следующем месяце десять, сто или еще больше отрицательных баллов?