淘寶排序算法是怎樣的

一、算法模型

當(dāng)用戶輸入關(guān)鍵詞進(jìn)行搜索的時候，系統(tǒng)依據(jù)算法模型來給匹配到的每個商品進(jìn)行實(shí)時的計(jì)算，并按照分?jǐn)?shù)的大小對商品進(jìn)行排序。 google 的 pagerank，可以理解為一個網(wǎng)頁入口超級鏈接的數(shù)目：一個網(wǎng)頁被其他網(wǎng)頁引用得越多，則該網(wǎng)頁就越有價值。特別地，一個網(wǎng)頁被越重要的網(wǎng)頁所引用，則該網(wǎng)頁的重要程度也就越高。 bm25 等。 spam，網(wǎng)頁重復(fù)等等作弊的問題，電子商務(wù)搜索也面臨同樣的問題，比如商品關(guān)鍵詞堆砌，重復(fù)鋪貨，重復(fù)開店，廣告商品引流等等，也有商品特有的問題如價格作弊，交易作弊等，需要利用統(tǒng)計(jì)分析或者機(jī)器學(xué)習(xí)來做異常行為，異常規(guī)律的發(fā)現(xiàn)和識別并運(yùn)用到排序中。 learning to rank 等的學(xué)習(xí)模型。 對人工評測的結(jié)果數(shù)據(jù)，使用預(yù)定義好的評價計(jì)算公式比如 dcg 等，用數(shù)值化的方法來評價算法模型的結(jié)果和標(biāo)注的理想結(jié)果的接近程度。 side)的評測方法，針對一個關(guān)鍵詞，把兩個不同算法模型產(chǎn)出的結(jié)果同時展示在屏幕上，每次新模型和對比模型展示的位置關(guān)系都是隨即的，人工判斷的時候不知道哪一邊的數(shù)據(jù)是新模型的結(jié)果，人工判斷那一邊的搜索結(jié)果好，以比較終的統(tǒng)計(jì)結(jié)果綜合來衡量新模型和老模型的搜索表現(xiàn)。 rcfp(relevance，coverage，freshness，perspective)等，淘寶搜索線下評測時候一般統(tǒng)計(jì) dcg 和 sbs 的指標(biāo)。 system)系統(tǒng)就是這樣的一個環(huán)境，在用戶搜索時，由搜索系統(tǒng)根據(jù)一定的策略來自動決定用戶的分組號(bucket id)，保證自動抽取導(dǎo)入不同分組的流量具有可對比性，然后讓不同分組的用戶看到的不同算法模型提供的結(jié)果。用戶在不同模型下的行為將被記錄下來，這些行為數(shù)據(jù)通過數(shù)據(jù)分析形成一系列指標(biāo)，而通過這些指標(biāo)的比較，比較后就形成了不同模型之間孰優(yōu)孰劣的結(jié)論。只要分組的流量達(dá)到一定的程度，數(shù)據(jù)指標(biāo)從統(tǒng)計(jì)意義上就具有可比性。 pv 展示，和的集中度，在保證用戶體驗(yàn)的前提下，給更多的優(yōu)質(zhì)或小小而美的賣家展示的機(jī)會。

對于好的算法模型，首先需要考慮我們能夠有哪些特征因子可以應(yīng)用。比如在網(wǎng)頁搜索中，算法模型基本就是按網(wǎng)頁的重要性和相關(guān)性給網(wǎng)頁計(jì)算一個分?jǐn)?shù)，然后進(jìn)行排序。這里的相關(guān)性，和重要性就是網(wǎng)頁排序模型中兩個重要的因子。具體來說相關(guān)性因子是指搜索關(guān)鍵字在文檔中出現(xiàn)的度數(shù)，當(dāng)這個度數(shù)越高時，則認(rèn)為該文檔的相關(guān)程度越高。重要度因子比如 google 的 pagerank，可以理解為一個網(wǎng)頁入口超級鏈接的數(shù)目：一個網(wǎng)頁被其他網(wǎng)頁引用得越多，則該網(wǎng)頁就越有價值。特別地，一個網(wǎng)頁被越重要的網(wǎng)頁所引用，則該網(wǎng)頁的重要程度也就越高。

考慮淘寶搜索的時候，有些特征因子是很容易能想到的，比如：

a、文本的相關(guān)性：關(guān)鍵詞和商品的匹配，匹配的程度，是否重要詞的匹配，匹配詞之間的距離等，都可能影響相關(guān)性。比如搜索“小鴨子洗衣機(jī)”的時候，一個商品的中心詞是洗衣機(jī)的要比賣洗衣機(jī)配件商品的相關(guān)性高，小鴨子連在一起的相關(guān)性要比“小”和“鴨子”分開時候的相關(guān)性高等。文本相關(guān)性比較基本的計(jì)算方式可以參考 bm25 等。

b、類目熱點(diǎn)：淘寶數(shù)據(jù)的一個重要特質(zhì)是每個商品都掛靠在類目屬性體系下面，每個商品都做了一個很好的分類。在搜索過程中，同一搜索詞的大量用戶行為數(shù)據(jù)很容易聚焦到相應(yīng)的熱點(diǎn)類目，比如“手機(jī)”的搜索行為會集中到手機(jī)類目，而不是配件類目。

c、圖片質(zhì)量：圖片是電子商務(wù)網(wǎng)站非常重要的一個數(shù)據(jù)，圖片是否精美吸引人，圖片上是否有各種各樣的“牛皮”，和商品匹配度等都很大程度上影響著用戶的和購買決策。

d、商品質(zhì)量：每個商品都有不同的質(zhì)量，商品的描述真實(shí)性，是否物美價廉，受人歡迎的程度等。

e、作弊因子：類似于搜索有關(guān)鍵詞堆砌，link spam，網(wǎng)頁重復(fù)等等作弊的問題，電子商務(wù)搜索也面臨同樣的問題，比如商品關(guān)鍵詞堆砌，重復(fù)鋪貨，重復(fù)開店，廣告商品引流等等，也有商品特有的問題如價格作弊，交易作弊等，需要利用統(tǒng)計(jì)分析或者機(jī)器學(xué)習(xí)來做異常行為，異常規(guī)律的發(fā)現(xiàn)和識別并運(yùn)用到排序中。

f、公平因子：淘寶的商品很豐富，每個搜索詞下都有足夠多的商品在競爭，需要在相似質(zhì)量的情況下讓更多的商品和賣家有展示的機(jī)會，而不是像網(wǎng)頁搜索一樣是一個基本靜態(tài)的排序，照成商品和展示的馬太效應(yīng)。

類似的商品，賣家，買家，搜索詞等方面的特征因子有很多，一個排序模型就是把各種各樣不同的特征因子組合起來，給出一個比較終的關(guān)鍵詞到商品的相關(guān)性分?jǐn)?shù)。只用其中的一到兩個特征因子，已經(jīng)可以對商品做一些比較基本的排序。如果有更多的特征參與到排序，我們就可能得到一個更好的排序算法。組合的方法可以有簡單的人工配置到復(fù)雜的類似 learning to rank 等的學(xué)習(xí)模型。

那么如何衡量不同算法之間的優(yōu)劣呢?

二、線下評估

算法模型的評估一般分為線下的評估和線上的評估，線下的評估很多都體現(xiàn)在搜索中常用的相關(guān)性(relevance)指標(biāo)。相關(guān)性的定義可以分為狹義相關(guān)性和廣義相關(guān)性兩方面，狹義相關(guān)性一般指檢索結(jié)果和用戶查詢的相關(guān)程度。而從廣義的層面，相關(guān)性可以理解為用戶查詢的綜合滿意度。當(dāng)用戶在搜索框輸入關(guān)鍵詞，到需求獲得滿足，這之間經(jīng)歷的過程越順暢，越便捷，搜索相關(guān)性就越好。

在淘寶搜索衡量狹義相關(guān)性的時候，一般是使用 pi(per item)測試的方法：

a、抽取具有代表性的查詢關(guān)鍵詞，組成一個規(guī)模適當(dāng)?shù)年P(guān)鍵詞集合

b、針對這個關(guān)鍵詞集合，從模型的產(chǎn)出結(jié)果中查詢對應(yīng)的結(jié)果，進(jìn)行人工標(biāo)注(人工判斷為相關(guān)性好、中、差等)， 對人工評測的結(jié)果數(shù)據(jù)，使用預(yù)定義好的評價計(jì)算公式比如 dcg 等，用數(shù)值化的方法來評價算法模型的結(jié)果和標(biāo)注的理想結(jié)果的接近程度。

利用人工標(biāo)注數(shù)據(jù)來計(jì)算相關(guān)性的分?jǐn)?shù)，來判斷模型的好壞;在這個過程中人工不可避免的會有主觀的判斷，但綜合了多人的判斷結(jié)果還是可以獲得一個有統(tǒng)計(jì)意義的結(jié)果，另一方面標(biāo)注數(shù)據(jù)也可以幫助我們找到一個算法表現(xiàn)不理想的地方，有針對性的提升。

廣義的相關(guān)性線下評測比較困難，受人工主觀因素的影響更大，一般使用 sbs(side by side)的評測方法，針對一個關(guān)鍵詞，把兩個不同算法模型產(chǎn)出的結(jié)果同時展示在屏幕上，每次新模型和對比模型展示的位置關(guān)系都是隨即的，人工判斷的時候不知道哪一邊的數(shù)據(jù)是新模型的結(jié)果，人工判斷那一邊的搜索結(jié)果好，以比較終的統(tǒng)計(jì)結(jié)果綜合來衡量新模型和老模型的搜索表現(xiàn)。

線下評測的方法和指標(biāo)有很多，不同的搜索引擎會關(guān)注不同的指標(biāo)，比如以前 yahoo 的搜索引擎比較關(guān)注 rcfp(relevance，coverage，freshness，perspective)等，淘寶搜索線下評測時候一般統(tǒng)計(jì) dcg 和 sbs 的指標(biāo)。

線下的評測方法從統(tǒng)計(jì)上有一定的指導(dǎo)意義，能從一定程度上區(qū)分模型的好壞，但要真正驗(yàn)證算法模型的好壞，還需要接受真實(shí)的流量來驗(yàn)證。

三、線上測試

為了真實(shí)驗(yàn)證一個算法模型的好壞，需要有一個系統(tǒng)能提供真實(shí)的流量來檢驗(yàn)。淘寶搜索實(shí)現(xiàn)的 bts(bucket testing system)系統(tǒng)就是這樣的一個環(huán)境，在用戶搜索時，由搜索系統(tǒng)根據(jù)一定的策略來自動決定用戶的分組號(bucket id)，保證自動抽取導(dǎo)入不同分組的流量具有可對比性，然后讓不同分組的用戶看到的不同算法模型提供的結(jié)果。用戶在不同模型下的行為將被記錄下來，這些行為數(shù)據(jù)通過數(shù)據(jù)分析形成一系列指標(biāo)，而通過這些指標(biāo)的比較，比較后就形成了不同模型之間孰優(yōu)孰劣的結(jié)論。只要分組的流量達(dá)到一定的程度，數(shù)據(jù)指標(biāo)從統(tǒng)計(jì)意義上就具有可比性。

不同的 bts 系統(tǒng)會關(guān)注不同的數(shù)據(jù)指標(biāo)，在淘寶搜索，有一些重要的指標(biāo)是很多算法模型測試的時候關(guān)注的：

訪問 uv 成交轉(zhuǎn)化率：來淘寶搜索的 uv，比較終通過搜索結(jié)果成交的用戶占比。

ipv-uv 轉(zhuǎn)化率：來淘寶搜索的 uv，有多少比例的用戶了搜索結(jié)果

ctr：搜索產(chǎn)生的占搜索產(chǎn)生的 pv 的比例

客單價：每個成交用戶在淘寶搜索上產(chǎn)生成交的平均價格

基尼系數(shù)：基尼系數(shù)是一個經(jīng)濟(jì)學(xué)名詞，考量社會財(cái)富的集中度;如果社會財(cái)富集中到很少一部分富人手中的時候，基尼系數(shù)就會增大，社會的穩(wěn)定性和可持續(xù)發(fā)展性就會出現(xiàn)問題;淘寶搜索借用了這個概念來衡量搜索帶給賣家的 pv 展示，和的集中度，在保證用戶體驗(yàn)的前提下，給更多的優(yōu)質(zhì)或小小而美的賣家展示的機(jī)會。

淘寶運(yùn)營比較重要的一部分就是站內(nèi)搜索優(yōu)化，這樣能提升商品的自然排名，不過，這并不是運(yùn)營的全部，大家應(yīng)該站在全局的角度來做好運(yùn)營策劃。如果大家沒能完全理解，請不要因此失去信心，堅(jiān)持下去才會給自己帶來意外收獲哦。