12/08/2018, 16:36

[PHP Elasticsearch] Index trong Elasticsearch

Khi bạn tạo một document cho Elasticsearch, bận cần đánh index cho document đó. Trong Elasticsearch-PHP để làm được việc này chúng ta tạo các mảng kết hợp tới client để tạo index. Trong bài viết này, chúng ta sẽ đi nghiên cứu một số phương pháp nhập dữ liệu vào elasticsearch bằng PHP. Singer ...

Khi bạn tạo một document cho Elasticsearch, bận cần đánh index cho document đó. Trong Elasticsearch-PHP để làm được việc này chúng ta tạo các mảng kết hợp tới client để tạo index. Trong bài viết này, chúng ta sẽ đi nghiên cứu một số phương pháp nhập dữ liệu vào elasticsearch bằng PHP.

Singer Document Indedx

Khi bạn tạo một Document cho Elasticsearch bạn có thể chỉ định Id cho document đó hoặc là để Elasticsearch tự generate Id cho bạn.

  • Khai báo Id
$params = [
    'index' => 'my_index',
    'type' => 'my_type',
    'id' => 'my_id',
    'body' => [ 'testField' => 'abc']
];

// Document will be indexed to my_index/my_type/my_id
$response = $client->index($params);
  • Không khai báo Id
$params = [
    'index' => 'my_index',
    'type' => 'my_type',
    'body' => [ 'testField' => 'abc']
];

// Document will be indexed to my_index/my_type/<autogenerated ID>
$response = $client->index($params);

Nếu bạn cần thiết lập các thông số khác chẳng hạn như một giá trị định tuyến. Bận chỉ cần khai báo các giá trị đó bên cạnh các các giá trị type, index, ... Ví dụ dưới đây cho trường hợp bạn thêm giá trị định tuyến timestamp

$params = [
    'index' => 'my_index',
    'type' => 'my_type',
    'id' => 'my_id',
    'routing' => 'company_xyz',
    'timestamp' => strtotime("-1d"),
    'body' => [ 'testField' => 'abc']
];


$response = $client->index($params);

Bulk Indexing

Elasticsarch cũng hỗ trợ cho chúng ta chỉ mục một lượng lớn các document. Xem ví dụ để hiểu rõ hơn về các xử lý trong PHP

  • Với arrays PHP
for($i = 0; $i < 100; $i++) {
    $params['body'][] = [
        'index' => [
            '_index' => 'my_index',
            '_type' => 'my_type',
        ]
    ];

    $params['body'][] = [
        'my_field' => 'my_value',
        'second_field' => 'some more values'
    ];
}

$responses = $client->bulk($params);
  • Với batches
$params = ['body' => []];

for ($i = 1; $i <= 1234567; $i++) {
    $params['body'][] = [
        'index' => [
            '_index' => 'my_index',
            '_type' => 'my_type',
            '_id' => $i
        ]
    ];

    $params['body'][] = [
        'my_field' => 'my_value',
        'second_field' => 'some more values'
    ];

    // Every 1000 documents stop and send the bulk request
    if ($i % 1000 == 0) {
        $responses = $client->bulk($params);

        // erase the old bulk request
        $params = ['body' => []];

        // unset the bulk response when you are done to save memory
        unset($responses);
    }
}

// Send the last batch if it exists
if (!empty($params['body'])) {
    $responses = $client->bulk($params);
}

Phần đầu, chúng ta đã biết cách đánh index cho một document trong Elasticsearch-PHP. Trong phần này, hãy nghiên cứu cách quản lý index trong Elasticsearch bằng PHP. Nói đến quản lý chắc hẳn chúng ta đều nghĩ ngay đến các phương thức create, update, delete. Trong elasticsearch cũng tương tự, hãy nghiên cứu từng phương thức.

Create an Index

Tạo một index mới với dạng

$client = ClientBuilder::create()->build();
$params = [
    'index' => 'my_index'
];

// Create the index
$response = $client->indices()->create($params);

Bạn có thể chỉ định bất kỳ một tham số nào khi tạo một index. Kiểu như:

$client = ClientBuilder::create()->build();
$params = [
    'index' => 'my_index',
    'body' => [
        'settings' => [
            'number_of_shards' => 3,
            'number_of_replicas' => 2
        ],
        'mappings' => [
            'my_type' => [
                '_source' => [
                    'enabled' => true
                ],
                'properties' => [
                    'first_name' => [
                        'type' => 'string',
                        'analyzer' => 'standard'
                    ],
                    'age' => [
                        'type' => 'integer'
                    ]
                ]
            ]
        ]
    ]
];


// Create the index with mappings and settings now
$response = $client->indices()->create($params);

Đây là một ví dụ tạo index nâng cao

$params = [
    'index' => 'reuters',
    'body' => [
        'settings' => [ 
            'number_of_shards' => 1,
            'number_of_replicas' => 0,
            'analysis' => [ 
                'filter' => [
                    'shingle' => [
                        'type' => 'shingle'
                    ]
                ],
                'char_filter' => [
                    'pre_negs' => [
                        'type' => 'pattern_replace',
                        'pattern' => '(w+)s+((?i:never|no|nothing|nowhere|noone|none|not|havent|hasnt|hadnt|cant|couldnt|shouldnt|wont|wouldnt|dont|doesnt|didnt|isnt|arent|aint))',
                        'replacement' => '~$1 $2'
                    ],
                    'post_negs' => [
                        'type' => 'pattern_replace',
                        'pattern' => '((?i:never|no|nothing|nowhere|noone|none|not|havent|hasnt|hadnt|cant|couldnt|shouldnt|wont|wouldnt|dont|doesnt|didnt|isnt|arent|aint))s+(w+)',
                        'replacement' => '$1 ~$2'
                    ]
                ],
                'analyzer' => [
                    'reuters' => [
                        'type' => 'custom',
                        'tokenizer' => 'standard',
                        'filter' => ['lowercase', 'stop', 'kstem']
                    ]
                ]
            ]
        ],
        'mappings' => [ 
            '_default_' => [    
                'properties' => [
                    'title' => [
                        'type' => 'string',
                        'analyzer' => 'reuters',
                        'term_vector' => 'yes',
                        'copy_to' => 'combined'
                    ],
                    'body' => [
                        'type' => 'string',
                        'analyzer' => 'reuters',
                        'term_vector' => 'yes',
                        'copy_to' => 'combined'
                    ],
                    'combined' => [
                        'type' => 'string',
                        'analyzer' => 'reuters',
                        'term_vector' => 'yes'
                    ],
                    'topics' => [
                        'type' => 'string',
                        'index' => 'not_analyzed'
                    ],
                    'places' => [
                        'type' => 'string',
                        'index' => 'not_analyzed'
                    ]
                ]
            ],
            'my_type' => [  
                'properties' => [
                    'my_field' => [
                        'type' => 'string'
                    ]
                ]
            ]
        ]
    ]
];
$client->indices()->create($params);
  • settings: bao gồm các config cho index
  • analysis được đặt trong settings, nó chứa tokenizers, filters, analyzers, ...
  • mappings chứa đựng mapping cho nhiều type
  • default là dynamic template được áp dụng cho tất cả các trường không được định nghĩa mappings
  • my_type là kiểu do người dùng định nghĩa cho duy nhất một trường dữ liệu

Delete an Index

Xóa một index bằng câu lệnh

$params = ['index' => 'my_index'];
$response = $client->indices()->delete($params);

Put Setting API

$params = [
    'index' => 'my_index',
    'body' => [
        'settings' => [
            'number_of_replicas' => 0,
            'refresh_interval' => -1
        ]
    ]
];

$response = $client->indices()->putSettings($params);

Get Setting API

// Get settings for one index
$params = ['index' => 'my_index'];
$response = $client->indices()->getSettings($params);

// Get settings for several indices
$params = [
    'index' => [ 'my_index', 'my_index2' ]
];
$response = $client->indices()->getSettings($params);

Put Mapping API

// Set the index and type
$params = [
    'index' => 'my_index',
    'type' => 'my_type2',
    'body' => [
        'my_type2' => [
            '_source' => [
                'enabled' => true
            ],
            'properties' => [
                'first_name' => [
                    'type' => 'string',
                    'analyzer' => 'standard'
                ],
                'age' => [
                    'type' => 'integer'
                ]
            ]
        ]
    ]
];

// Update the index mapping
$client->indices()->putMapping($params);

Get Mapping API

// Get mappings for all indexes and types
$response = $client->indices()->getMapping();

// Get mappings for all types in 'my_index'
$params = ['index' => 'my_index'];
$response = $client->indices()->getMapping($params);

// Get mappings for all types of 'my_type', regardless of index
$params = ['type' => 'my_type' ];
$response = $client->indices()->getMapping($params);

// Get mapping 'my_type' in 'my_index'
$params = [
    'index' => 'my_index'
    'type' => 'my_type'
];
$response = $client->indices()->getMapping($params);

// Get mappings for two indexes
$params = [
    'index' => [ 'my_index', 'my_index2' ]
];
$response = $client->indices()->getMapping($params);
0