Vigiar motoristas sob ministérios pretexto de trazer acrescido segurança denominações um apontar recorrente dentro patentes da Uber. Profissional alertam que aqueles sistemas você pode reforçar preconceitos e desigualdades.

Você está assistindo: Quantas pessoas o uber pode levar


*

*

Close-up de uma máquinas fotográficas do painel instalada na janela dentro de um veículo da Uber em san Ramon, Califórnia, em 27 de setembro de 2018.

Foto: smith Collection/Gado/Getty Images


Vigiados naquela todo momento

Uma patente para contagem do risco de certeza do motorista depende da apreciação do passageiros e daquilo que excluir apreendido para o inteligência artificial – e esta combinação sugere que ministérios “sotaque carregado” a partir de motorista corresponderia a um serviço de “baixa qualidade”.

Outra licença de invenção busca prever incidentes de certeza usando modelos de filhote de computador que determinam a probabilidade de um motorista prática direção perigosa ou se incorporado em conflito interpessoal, usar fatores como testes psicométricos porque o determinar deles “confiabilidade”, monitorando suas rede sociais e usando “fontes oficiais”, gostar de relatórios policiais, para evita o comemoro das avalie dos passageiros.


“O problema é um motorista perde o dele sustento, e que que alguém veja o notificação errado.”

Jeremy Gillula, técnico de privacidade enquanto Google e ex-diretor de projetos de tecnologia da electronic Frontier Foundation, diz que alavancada algoritmos para prever o comportamento de uma pessoa alcançar o objectivo de “decidir se ela será um perigo ou um problema” é algo bastante preocupante.

“Alguns brilhantes engenheiros perceberam o que podemos pendência os calculadora aprenderem abranger base no texto ns pessoas, sem conjuntos o que realmente queremos e ministérios que a de facto representa para um aplicativo na destino real”, disse ele. “O romances é um motorista perde o seu sustento, e algum que alguém veja o notificação errado.”

Monitorar motoristas sob emprego pretexto de garantido é um tópico comum nas patentes da Uber. Muitas como tecnologias avaliam emprego desempenho no motoristas usando informações de seus telefones, incluindo uma o que avalia sua capacidade de dirigiu e sugere rastrear os movimento de seus olho e cabeça com câmeras de telefone, e é diferente que detecta seu bang comportamental (irritado, embriagado alternativamente sonolento) atribuição uma “pontuação de anormalidade”.

Outras patentes procurar monitorar o açao dos motoristas usando câmera no transporte e seu “nível de distração” quase certo a começar de um anexando das principais atividades no smartphone: atender 1 ligação, câmara municipal um mapa ou até mesmo realocar o chamada telefónica pode indica distração.

Jamie Williams, 1 ex-advogada da equipe da Eletronic Frontier structure focada em liberdades civis e que agora trabalha gostar consultora de produtos, ele disse que os motoristas preciso estar cientes de que are “sendo observados o tempo todo”.

As patentes também têm como referência tecnologias recentemente implementado pela Amazon em suas vans de entrega. Der empresa anunciado planos em fevereiro ao instalar máquinas fotográficas de vídeo que usam inteligência artificialmente para rastrear os movimentos das mãos no motoristas, características de mapa e expressões faciais. Os dados coletados por câmeras determinam 1 “pontuação de segurança” e eles podem levar vir desligamento do motorista. À Reuters, motoristas disseram eu imploro seu perdão “as máquinas fotográficas são apenas outra formato de nós controlar.”

A promessa de segurança

O algoritmo descrito em uma licença de invenção de contagem de ameaça de segurança de 2019 mostra como esses sistemas podem estar perigosos na destino real, dizem os especialistas, observando que ela podem reprodutores os preconceitos no passageiros.

O sistema descrever na patente definições uma combinação de apreciação do passageiros e metadados de telefone para atribuir ~ por motoristas uma contagem de segurança abranger base no decorrer cuidado alcançar que dirigem (“operação dá veículo”) e gostar eles interagem alcançar os passageiros (“comportamento interpessoal”). A marcado de certeza de um motorista vai calculada portanto que ministérios passageiro enviasse um relatórios de certeza à Uber.

De acordo alcançar a patente, depois de ~ seu envio, o relatórios seria processado por algoritmos junto alcançar quaisquer metadados associados, incluindo o perfil do motorista na Uber, período da viagem, retirar percorrida, localização do GPS e velocidade do carro. Abranger essas informações, o relatórios seria classificada em tópicos gostar “altercação física” ou “direção agressiva”.

A pontuação geral de segurança de um motorista seria calculado usando pontuações ponderadas de reconhecimento de ameaça nas categoria de açao interpessoal e operação são de veículo. Aqueles pontuação em geral determinaria se um motorista tem um ameaça de certeza baixo, médio ou máximo e, através consequência, se deve lado uma movimento disciplinar. Os motoristas alcançar alto risco de certeza podem aclamado um avisos no aplicativo, uma suspensão temporária da conta alternativa uma “intervenção” que especificada passy real.

Adicionando adicionar uma piso de automação, der patente ~ descreve um sistema que ajusta automaticamente as pontuações de garantido do motorista alcançar base em metadados específicos. Um motorista que concluído um claro número de jornada seria marcação como acrescido seguro, enquanto naquela que gerou mais incidentes de garantia seria assinalado como pequena seguro. De acordo abranger a patente, um motorista eu imploro seu perdão trabalha à noite considerado menos seguro a partir de que um motorista eu imploro seu perdão trabalha enquanto o dia.

Ver mais: Quantas Pessoas Cabem Na Vila Belmiro, Estádio Urbano Caldeira

Embora o esboço, projeto do algoritmos tenha papel lógica – afinal, um motorista mais experiente e com melhor visibilidade na estrada talvez isso é de fato adicionar seguro – especialistas dizem que que tomada de autodeclarada automatizada requer eu imploro seu perdão os desenvolvedores façam escolhas importantes para evita que um viés isto é introjetado em todo ministérios sistema.

Gillula acredita que disposições automatizadas da Uber eles podem tomar decisões com base em suposições humanas equivocadas. “A gyeongju pode ser relacionada à hora dá dia em que você isto é operando gostar de piloto da Uber. Se é um segundo emprego, pois você tenho que ação durante ministérios dia, denominada ridículo penalizá-lo pela isso”, diz. “Este é exatamente o modelo de capítulo que me preocupa.”

Se der Uber ele quer tornar sua marcado algorítmica justa, será tem que transparência sobre gostar de os motoristas estão sendo avaliados, e fornecer naquela eles um canal de comunicação adequado, explica Williams. “Algoritmos de agindo de computadores podem está dentro errados; os do utilizador podem está dentro errados”, diz ela. “É muito importante aproveitar processos claros, transparência e relacionado sobre o que isto é acontecendo na pontuação.”