Black Box Society, resenha do livro: Documentando lado escuro grandes dos dados

Black Box Society: The Secret algoritmos que controlam o dinheiro e Informação • Por Frank Pasquale • Harvard University Press • 311 páginas • ISBN: 978-0-674-36827-9 • $ 25,95

falha Algorthmic

Segurança; Casa Branca nomeia primeiro CIO Federal de Segurança; Segurança; Pentágono criticado por resposta cyber-emergência por watchdog governo; segurança; Chrome para iniciar conexões HTTP rotulagem como não segura; segurança; O Projeto Hyperledger está crescendo a todo o vapor

Em 1993, co-fundador da Electronic Frontier Foundation, John Gilmore observado, famosa, que, “A Internet percebe a censura como dano, e rotas em torno dele.” Agora é 2015, e da Universidade de Maryland professor de Direito Frank Pasquale fez um adendo: “O mesmo poderia ser dito sobre privacidade.

Em Black Box Society: The Secret algoritmos que dinheiro de Controle e Informação, Pasquale explora as inúmeras maneiras cada um de nós é transformado em uma pilha de dados, perfilados, e teve por sistemas que são muitas vezes mal ciente. A mais óbvia, que se aplica aos britânicos, bem como americanos, é o todo-demasiado-familiar de pontuação de crédito que todos, desde os bancos a empresas de telefonia usa para decidir se você é digno de seus serviços. Mas, como documentos Pasquale, os algoritmos de pontuação são usados ​​em muitos outros contextos, como decidir quem deve ser colocado em listas de exclusão aérea.

Porque é a mais antiga e mais penetrante do que Pasquale chama de “sistemas de reputação”, classificação de crédito é também o mais regulamentado. No entanto, diz ele, que não melhorou-los. anúncios de TV e resultado experiência em todos nós internalização das normas da indústria de finanças, que muitas vezes lucra mais com o fracasso do que o sucesso. Ou seja, a pessoa que paga a sua fatura de cartão de crédito em pleno cada mês é muito menos rentável do que aquele que mantém um interesse acumulando saldo corrente. Mas o que acontece quando essas técnicas são aplicadas à saúde, dando a cada um de nós um “escore corporal”?

A maioria de Black Society Box traduz bem além do Pasquale EUA. Concedido, em países com serviços nacionais de saúde as conexões entre o crédito, saúde e emprego são um pouco menos sinistra: fora os EUA um teste positivo para diabetes é provável que tenha menos de um impacto negativo sobre a sua pontuação de crédito ou resultantes empregabilidade, por exemplo. No entanto, o material que documenta a forma como as agências de serviços secretos recolher e usar informações de bancos de dados comerciais deve ser suficiente para alarmar ninguém em qualquer lugar. Pior, como agências de segurança passaram a contar com grandes empresas orientadas a dados para dados que não podem pagar para recolher-se, os reguladores vão ser cada vez mais impotentes para intervir. Assim como alguns bancos eram “grandes demais para falir”, Pasquale sugere algumas empresas de dados se tornará “muito importante para a vigilância” para os governos a assumir o risco de aliená-los. Em países onde os políticos dependem de grandes doadores corporativos para financiar as suas campanhas de reeleição, este pode ser duplamente verdadeiro.

Pasquale toma especialmente como objectivo o segredo que envolve todos estes sistemas baseados em dados. Society, ele argumenta, é cada vez menos transparente e menos responsáveis. Onde os vendedores arremesso que os sistemas de dados grandes são mais objetivos e menos propenso a preconceito do que o julgamento humano, Pasquale vê-los como vetores para a discriminação lavagem: aqueles que foram vítimas de preconceito financeira passado, por exemplo, pode ter empréstimos com taxas muito mais elevadas de interesse que traduzir em mais pagamentos atrasados, que por sua vez se reflectem na menor pontuação de crédito agora. Isso é ruim o suficiente para os indivíduos, mas Pasquale argumenta que, a nível social, significa que o tipo de “falha algorítmica” e subsequentes resgates públicos que vimos em 2008.

foco particular deste livro no Vale do Silício e Wall Street, diz Pasquale, é porque a indefinição da tradicional distinção entre mercado e Estado está no cerne da “sociedade caixa preta”. Como eleições de maio de 2015, o Reino Unido teares, mantendo essa distinção pode ser algo a votar.

Casa Branca nomeia primeiro Chief Information Security Officer Federal

Pentágono criticado por resposta cyber-emergência por watchdog governo

Chrome para iniciar conexões HTTP rotulagem como não segura

O Projeto Hyperledger está crescendo a todo o vapor