Dropbox画像検索の仕組み

数年前にピクニックで撮った写真を探す必要がある場合、撮影時にカメラがファイルに自動的に割り当てた名前を思い出せません。たとえば、2017-07-0412.37.54.jpg。写真、スケッチ、探しているもののオブジェクトや兆候を特定しようとするなど、すべてを調べます。紛失した写真を探しているのか、アーカイブで適切な写真を見つけてプレゼンテーションを行うのかは関係ありません。新しいプロジェクト。

Dropboxがすべての画像を個別に表示し、説明の単語に最も一致する画像を選択できれば素晴らしいと思います。これはまさに、画像検索機能を作成するときに自分で設定したタスクです。

, Dropbox , , , , Dropbox .

---

, , , Dropbox.

: , () q j, s , , :

s = f(q, j).

- , , . : .

, . , . 

:

• , , ;

  
  
  
  
  

• , , ;

  
  
  
  
  

• , , - .

  
  
  
  
  

— 2012 . Krizhevsky . ImageNet hallenge. , , , , Open Images ImageNet, , TensorFlow PyTorch, , . , :

, , . , , , , , ? , ?

, , , .

. j_c . C- , C — ( ). , , , .

— . — word2vec — Mikolov . 2013 . Word2vec , , , , . d- , d .

, word2vec. , , :

1. q d- q_w, . w, — c.

   
   
   
   
   

2. cⁱ_w. m̂i = q_w - cⁱ_w — i- . -1 1 , . ( mi = max(0, m̂i)), , .

   
   
   
   
   

3. , q_c = [m1 m2 ... mC], C- , , — , , .

   
   
   
   
   

3 — - , q_c = q_wC, C — cⁱ_w.

q_c — s = q_cj_c.

. . - , s = q_cJ, J j_c , s — .

. , — : , , .

, . , [0,35–0,62 0,70], .

, .

  EfficientNet, OpenImages. 8 500 . , . , Dropbox.

TensorFlow   ConceptNet Numberbatch. , , , , . : dog chien , .

AND, . , , beach ball, . , OR , beach ball (beach AND ball) OR (beach ball). , .

, , J . , , , , . ().

J , Dropbox Nautilus.

, Nautilus (forward index), (, ) , (inverted index), (posting list) , . :

, doc_1 doc_2 , . doc_3 , , . 

, , . doc_1 , doc_2, doc_1 .

. j_c . .

, :

1. q_w C q_c, . C — , , .

   
   
   
   
   

2. , q_c, . , , .

   
   
   
   
   

3. j_c q_c, s. , .

   
   
   
   
   

- , . 10 000 10 000 , 40 . , 10 000 . , 40 80 . , , !

, , , , m̂i , 5 000 . , 10 .

, , , . s = q_cj_c, q_c — 10 000 , j_c — 10 000 , . , s. 

q_c j_c , . , 10 q_c 50 j_c . :

• 10 000- 50 , 50 . ; 50 ( ) 50 ( ) 300 .

  
  
  
  
  

• 10 000, 50 , 200 . , 500 80.

  
  
  
  
  

• q_c 10 , 10 — . , .

  
  
  
  
  

, . , , , — .

-. , OCR- , .

?

, , Dropbox. . , , . , , , , , " , " .

, , . , "Machine Learning Deep Learning", NVIDIA.

, :

• Data Scientist

  
  
  
  
  

• Data Analyst

  
  
  
  
  

• Data Engineering

  
  
  
  
  

• Fullstack- Python

  
  
  
  
  

• Java-

  
  
  
  
  

• QA- JAVA

  
  
  
  
  

• Frontend-

  
  
  
  
  

• 
  
  
  
  

• C++

  
  
  
  
  

• Unity

  
  
  
  
  

• -

  
  
  
  
  

• iOS-

  
  
  
  
  

• Android-

  
  
  
  
  

• Machine Learning

  
  
  
  
  

• "Machine Learning Deep Learning"

  
  
  
  
  

• " Data Science"

  
  
  
  
  

• " Machine Learning Data Science"

  
  
  
  
  

• "Python -"

  
  
  
  
  

• " "

  
  
  
  
  

• 
  
  
  
  

• DevOps