Bước tiếp theo trong AI giám sát: Tìm ra bạn bè của bạn là ai

Bước tiếp theo trong AI giám sát: Tìm ra bạn bè của bạn là ai

    Bước tiếp theo trong AI giám sát: Tìm ra bạn bè của bạn là ai
    bởi Nô-ê Bierman


    Ảnh: Pixabay/CC0 

    AI

    Một người đàn ông tóc hoa râm đi qua sảnh văn phòng, tay cầm cốc cà phê, nhìn chằm chằm về phía trước khi đi qua lối vào.

    Anh ta dường như không biết rằng mình đang bị theo dõi bởi một mạng lưới camera có thể phát hiện không chỉ nơi anh ta đã đến mà còn cả những người đã đi cùng anh ta.

    Công nghệ giám sát từ lâu đã có thể xác định bạn. Giờ đây, với sự trợ giúp của trí tuệ nhân tạo, nó đang cố gắng tìm ra bạn bè của bạn là ai.

    Với một vài cú nhấp chuột, phần mềm "đồng xuất hiện" hoặc "phân tích tương quan" này có thể tìm thấy bất kỳ ai từng xuất hiện trên khung hình giám sát trong vòng vài phút của người đàn ông tóc hoa râm hơn tháng trước, loại bỏ những người có thể đã ở gần anh ta một hoặc hai lần, và tập trung vào một người đàn ông đã xuất hiện 14 lần. Phần mềm có thể ngay lập tức đánh dấu các tương tác tiềm năng giữa hai người đàn ông, hiện được coi là có khả năng là cộng sự, trên một lịch có thể tìm kiếm được.

    Vintra, công ty có trụ sở tại San Jose đã giới thiệu công nghệ này trong một buổi thuyết trình video về ngành vào năm ngoái, đã bán tính năng đồng xuất hiện như một phần của một loạt các công cụ phân tích video. Công ty tự hào trên trang web của mình về mối quan hệ với San Francisco 49ers và sở cảnh sát Florida. Sở Thuế vụ và các sở cảnh sát bổ sung trên cả nước đã trả tiền cho các dịch vụ của Vintra, theo cơ sở dữ liệu hợp đồng của chính phủ.

    Các chuyên gia trong ngành cho biết, mặc dù công nghệ đồng xuất hiện đã được các chế độ độc tài như Trung Quốc sử dụng, nhưng Vintra dường như là công ty đầu tiên tiếp thị nó ở phương Tây, các chuyên gia trong ngành cho biết.

    Nhưng công ty là một trong nhiều ứng dụng giám sát và AI mới đang thử nghiệm với ít sự giám sát của công chúng và ít biện pháp bảo vệ chính thức chống lại sự xâm phạm quyền riêng tư. Chẳng hạn, vào tháng 1, các quan chức bang New York đã chỉ trích công ty sở hữu Madison Square Garden vì đã sử dụng công nghệ nhận dạng khuôn mặt để cấm nhân viên của các công ty luật đã kiện công ty tham dự các sự kiện tại nhà thi đấu.

    Các chuyên gia và cơ quan giám sát trong ngành nói rằng nếu hiện tại công cụ đồng xuất hiện không được sử dụng — và một nhà phân tích bày tỏ sự chắc chắn rằng nó đang được sử dụng — thì nó có thể sẽ trở nên đáng tin cậy hơn và được phổ biến rộng rãi hơn khi khả năng trí tuệ nhân tạo phát triển.

    Không có đơn vị nào kinh doanh với Vintra được The Times liên hệ thừa nhận đã sử dụng tính năng đồng xuất hiện trong gói phần mềm của Vintra. Nhưng một số đã không loại trừ nó một cách rõ ràng.

    Chính phủ Trung Quốc, vốn tích cực nhất trong việc sử dụng giám sát và AI để kiểm soát dân số của mình, sử dụng các tìm kiếm đồng xuất hiện để phát hiện những người biểu tình và bất đồng chính kiến ​​bằng cách hợp nhất video với một mạng lưới cơ sở dữ liệu rộng lớn, điều mà Vintra và khách hàng của họ sẽ không thể làm được , Conor Healy, giám đốc nghiên cứu chính phủ của IPVM, nhóm nghiên cứu giám sát đã tổ chức buổi thuyết trình của Vintra vào năm ngoái. Ông nói, công nghệ của Vintra có thể được sử dụng để tạo ra "một phiên bản cơ bản hơn" về khả năng của chính phủ Trung Quốc.

    Một số chính quyền tiểu bang và địa phương ở Hoa Kỳ hạn chế việc sử dụng nhận dạng khuôn mặt, đặc biệt là trong việc trị an, nhưng không áp dụng luật liên bang. Theo Clare Garvie, một chuyên gia về công nghệ giám sát, không có luật nào nghiêm cấm cảnh sát sử dụng các cuộc khám xét người cùng xuất hiện như của Vintra, "nhưng đó là một câu hỏi mở" liệu làm như vậy có vi phạm quyền tự do hội họp được bảo vệ theo hiến pháp hay không. Hiệp hội Quốc gia của Luật sư bào chữa hình sự.

    Rất ít tiểu bang có bất kỳ hạn chế nào về cách các thực thể tư nhân sử dụng nhận dạng khuôn mặt.

    Sở cảnh sát Los Angeles đã kết thúc chương trình kiểm soát dự đoán, được gọi là PredPol, vào năm 2020 trong bối cảnh bị chỉ trích rằng chương trình này không ngăn chặn được tội phạm và dẫn đến việc kiểm soát chặt chẽ hơn đối với các khu dân cư Da đen và La tinh. Chương trình đã sử dụng trí tuệ nhân tạo để phân tích kho dữ liệu khổng lồ, bao gồm cả các băng đảng bị nghi ngờ, nhằm nỗ lực dự đoán theo thời gian thực nơi tội phạm tài sản có thể xảy ra.

    Trong trường hợp không có luật quốc gia, nhiều sở cảnh sát và công ty tư nhân phải tự mình cân nhắc sự cân bằng giữa an ninh và quyền riêng tư.

    Thượng nghị sĩ Edward J. Markey, một đảng viên Đảng Dân chủ Massachusetts, cho biết: “Đây là tương lai của người Orwell trở nên sống động. "Một trạng thái giám sát đáng báo động sâu sắc, nơi bạn bị theo dõi, đánh dấu và phân loại để sử dụng bởi các tổ chức thuộc khu vực công và tư nhân—mà bạn không hề hay biết."

    Markey có kế hoạch giới thiệu lại một dự luật trong những tuần tới sẽ ngăn chặn việc sử dụng công nghệ nhận dạng khuôn mặt và sinh trắc học của cơ quan thực thi pháp luật liên bang và yêu cầu chính quyền địa phương và tiểu bang cấm chúng như một điều kiện để giành được trợ cấp liên bang.

    Hiện tại, một số bộ phận cho biết họ không phải đưa ra lựa chọn vì những lo ngại về độ tin cậy. Nhưng khi công nghệ tiến bộ, họ sẽ làm được.

    Giám đốc điều hành Vintra đã không trả lời nhiều cuộc gọi và email từ The Times.

    Nhưng giám đốc điều hành của công ty, Brent Boekestein, đã nói rất nhiều về tiềm năng sử dụng công nghệ này trong buổi thuyết trình video với IPVM.

    "Bạn có thể đi lên đây và tạo một mục tiêu, 

    dựa trên anh chàng này và sau đó xem anh chàng này đi chơi với ai," Boekestein nói. "Bạn thực sự có thể bắt đầu xây dựng một mạng lưới."

    Anh ấy nói thêm rằng "96% thời gian, không có sự kiện nào mà bảo mật quan tâm nhưng luôn có thông tin mà hệ thống đang tạo ra."

    Bốn cơ quan chia sẻ trạm trung chuyển San Jose được sử dụng trong bài thuyết trình của Vintra đã phủ nhận rằng máy ảnh của họ đã được sử dụng để thực hiện video của công ty.

    Hai công ty được liệt kê trên trang web của Vintra, 49ers và Moderna, công ty sản xuất một trong những loại vắc xin COVID-19 được sử dụng rộng rãi nhất, đã không trả lời email.

    Một số sở cảnh sát thừa nhận đã làm việc với Vintra, nhưng không ai nói rõ ràng rằng họ đã thực hiện một cuộc tìm kiếm đồng xuất hiện.

    Brian Jackson, trợ lý cảnh sát trưởng ở Lincoln, Neb., cho biết bộ phận của ông sử dụng phần mềm Vintra để tiết kiệm thời gian phân tích hàng giờ video bằng cách tìm kiếm nhanh chóng các mẫu như ô tô màu xanh và các đồ vật khác phù hợp với mô tả được sử dụng để giải quyết các tội phạm cụ thể. Tuy nhiên, các máy ảnh mà bộ phận của anh ấy liên kết với — bao gồm cả máy ảnh Ring và những máy ảnh được doanh nghiệp sử dụng — không đủ tốt để khớp với khuôn mặt, anh ấy nói.

    "Có những hạn chế. Nó không phải là một công nghệ kỳ diệu", ông nói. "Nó đòi hỏi đầu vào chính xác cho kết quả đầu ra tốt."

    Jarod Kasner, một trợ lý giám đốc ở Kent, Washington, cho biết bộ phận của ông sử dụng phần mềm Vintra. Anh ấy nói rằng anh ấy không biết về tính năng đồng xuất hiện và sẽ phải xem xét liệu nó có hợp pháp ở tiểu bang của anh ấy hay không, một trong số ít hạn chế việc sử dụng nhận dạng khuôn mặt.

    Ông nói: “Chúng tôi luôn tìm kiếm công nghệ có thể hỗ trợ chúng tôi vì nó là nhân tố tác động mạnh mẽ” đối với một bộ phận đang phải vật lộn với các vấn đề về nhân sự. Nhưng "chúng tôi chỉ muốn đảm bảo rằng chúng tôi đang ở trong ranh giới để đảm bảo rằng chúng tôi đang làm đúng và chuyên nghiệp."

    Văn phòng Cảnh sát trưởng Quận Lee ở Florida cho biết họ chỉ sử dụng phần mềm Vintra đối với những kẻ tình nghi và không "để theo dõi những người hoặc phương tiện không bị nghi ngờ là có hoạt động tội phạm."

    Sở cảnh sát Sacramento cho biết trong một email rằng họ sử dụng phần mềm Vintra "một cách tiết kiệm, nếu có" nhưng không nói rõ liệu họ đã từng sử dụng tính năng đồng xuất hiện hay chưa.

    "Chúng tôi đang trong quá trình xem xét hợp đồng Vintra của mình và liệu có nên tiếp tục sử dụng dịch vụ của họ hay không", bộ này cho biết trong một tuyên bố, đồng thời cho biết họ không thể chỉ ra các trường hợp mà phần mềm này đã giúp phá án.

    IRS cho biết trong một tuyên bố rằng họ sử dụng phần mềm Vintra "để xem xét hiệu quả hơn các đoạn phim dài để làm bằng chứng trong khi tiến hành điều tra tội phạm." Các quan chức sẽ không cho biết liệu IRS có sử dụng công cụ đồng xuất hiện hay không hay IRS có đặt camera ở đâu hay không, chỉ biết rằng IRS tuân theo "các thủ tục và quy trình đã được thiết lập của cơ quan."

    Jay Stanley, một luật sư của Liên đoàn Tự do Dân sự Hoa Kỳ, người đầu tiên nêu bật bản trình bày video của Vintra vào năm ngoái trong một bài đăng trên blog, cho biết ông không ngạc nhiên khi một số công ty và bộ phận thận trọng về việc sử dụng nó. Theo kinh nghiệm của ông, các sở cảnh sát thường triển khai công nghệ mới "mà không nói, chứ chưa nói đến việc xin phép các cơ quan giám sát dân chủ như hội đồng thành phố."

    Stanley cảnh báo rằng phần mềm này có thể bị lạm dụng để theo dõi các hiệp hội cá nhân và chính trị, bao gồm cả với các đối tác thân thiết tiềm năng, các nhà hoạt động lao động, các nhóm chống cảnh sát hoặc các đối thủ đảng phái.

    Danielle VanZandt, người phân tích Vintra cho công ty nghiên cứu thị trường Frost & Sullivan, cho biết công nghệ này đã được sử dụng. Bởi vì cô ấy đã xem xét các tài liệu bí mật từ Vintra và các công ty khác, cô ấy phải tuân theo các thỏa thuận không tiết lộ ngăn cấm cô ấy thảo luận về các công ty và chính phủ riêng lẻ có thể đang sử dụng phần mềm.

    Các nhà bán lẻ, vốn đã thu thập dữ liệu khổng lồ về những người bước vào cửa hàng của họ, cũng đang thử nghiệm phần mềm để xác định "nó có thể cho tôi biết điều gì nữa?" VanZandt nói.

    Điều đó có thể bao gồm việc xác định các thành viên gia đình của những khách hàng tốt nhất của ngân hàng để đảm bảo họ được đối xử tốt, một cách sử dụng làm tăng khả năng những người không giàu có hoặc có mối quan hệ gia đình sẽ ít được chú ý hơn.

    VanZandt cho biết: “Những lo ngại về thành kiến đó rất lớn trong ngành” và đang được tích cực giải quyết thông qua các tiêu chuẩn và thử nghiệm.

    Không phải ai cũng tin rằng công nghệ này sẽ được áp dụng rộng rãi. Florian Matusek của Genetec, một công ty phân tích video làm việc với Vintra, cho biết các cơ quan thực thi pháp luật và bảo mật doanh nghiệp thường phát hiện ra rằng họ có thể sử dụng các công nghệ ít xâm lấn hơn để thu thập thông tin tương tự. Điều đó bao gồm quét hệ thống nhập vé và dữ liệu điện thoại di động có các tính năng độc đáo nhưng không bị ràng buộc với các cá nhân.

    Matusek nói: “Có một sự khác biệt lớn giữa, như bảng sản phẩm và video giới thiệu và những thứ thực sự đang được triển khai tại hiện trường. "Người dùng thường thấy rằng công nghệ khác cũng có thể giải quyết vấn đề của họ mà không cần phải trải qua hoặc nhảy qua tất cả các vòng lắp đặt camera hoặc xử lý quy định về quyền riêng tư."

    Matusek cho biết ông không biết bất kỳ khách hàng nào của Genetec đang sử dụng đồng xuất hiện mà công ty của ông không cung cấp. Nhưng ông không thể đưa ra quy định

    Zalo
    Hotline