成人国产在线小视频_日韩寡妇人妻调教在线播放_色成人www永久在线观看_2018国产精品久久_亚洲欧美高清在线30p_亚洲少妇综合一区_黄色在线播放国产_亚洲另类技巧小说校园_国产主播xx日韩_a级毛片在线免费

資訊專欄INFORMATION COLUMN

for-loop 與 json.Unmarshal 性能分析概要

zorro / 1423人閱讀

摘要:原文地址與性能分析概要前言在項(xiàng)目中,常常會(huì)遇到循環(huán)交換賦值的數(shù)據(jù)處理場(chǎng)景,尤其是,數(shù)據(jù)交互格式要轉(zhuǎn)為,賦值是無(wú)法避免的。如下預(yù)編譯生成代碼提前確定類型,可以解決運(yùn)行時(shí)的反射帶來的性能開銷。

原文地址:for-loop 與 json.Unmarshal 性能分析概要

前言

在項(xiàng)目中,常常會(huì)遇到循環(huán)交換賦值的數(shù)據(jù)處理場(chǎng)景,尤其是 RPC,數(shù)據(jù)交互格式要轉(zhuǎn)為 Protobuf,賦值是無(wú)法避免的。一般會(huì)有如下幾種做法:

for

for range

json.Marshal/Unmarshal

這時(shí)候又面臨 “選擇困難癥”,用哪個(gè)好?又想代碼量少,又擔(dān)心性能有沒有影響啊...

為了弄清楚這個(gè)疑惑,接下來將分別編寫三種使用場(chǎng)景。來簡(jiǎn)單看看它們的性能情況,看看誰(shuí)更 “好”

功能代碼
...
type Person struct {
    Name   string `json:"name"`
    Age    int    `json:"age"`
    Avatar string `json:"avatar"`
    Type   string `json:"type"`
}

type AgainPerson struct {
    Name   string `json:"name"`
    Age    int    `json:"age"`
    Avatar string `json:"avatar"`
    Type   string `json:"type"`
}

const MAX = 10000

func InitPerson() []Person {
    var persons []Person
    for i := 0; i < MAX; i++ {
        persons = append(persons, Person{
            Name:   "EDDYCJY",
            Age:    i,
            Avatar: "https://github.com/EDDYCJY",
            Type:   "Person",
        })
    }

    return persons
}

func ForStruct(p []Person, count int) {
    for i := 0; i < count; i++ {
        _, _ = i, p[i]
    }
}

func ForRangeStruct(p []Person) {
    for i, v := range p {
        _, _ = i, v
    }
}

func JsonToStruct(data []byte, againPerson []AgainPerson) ([]AgainPerson, error) {
    err := json.Unmarshal(data, &againPerson)
    return againPerson, err
}

func JsonIteratorToStruct(data []byte, againPerson []AgainPerson) ([]AgainPerson, error) {
    var jsonIter = jsoniter.ConfigCompatibleWithStandardLibrary
    err := jsonIter.Unmarshal(data, &againPerson)
    return againPerson, err
}
測(cè)試代碼
...
func BenchmarkForStruct(b *testing.B) {
    person := InitPerson()
    count := len(person)
    b.ResetTimer()
    for i := 0; i < b.N; i++ {
        ForStruct(person, count)
    }
}

func BenchmarkForRangeStruct(b *testing.B) {
    person := InitPerson()

    b.ResetTimer()
    for i := 0; i < b.N; i++ {
        ForRangeStruct(person)
    }
}

func BenchmarkJsonToStruct(b *testing.B) {
    var (
        person = InitPerson()
        againPersons []AgainPerson
    )
    data, err := json.Marshal(person)
    if err != nil {
        b.Fatalf("json.Marshal err: %v", err)
    }

    b.ResetTimer()
    for i := 0; i < b.N; i++ {
        JsonToStruct(data, againPersons)
    }
}

func BenchmarkJsonIteratorToStruct(b *testing.B) {
    var (
        person = InitPerson()
        againPersons []AgainPerson
    )
    data, err := json.Marshal(person)
    if err != nil {
        b.Fatalf("json.Marshal err: %v", err)
    }

    b.ResetTimer()
    for i := 0; i < b.N; i++ {
        JsonIteratorToStruct(data, againPersons)
    }
}
測(cè)試結(jié)果
BenchmarkForStruct-4                    500000          3289 ns/op           0 B/op           0 allocs/op
BenchmarkForRangeStruct-4               200000          9178 ns/op           0 B/op           0 allocs/op
BenchmarkJsonToStruct-4                    100      19173117 ns/op     2618509 B/op       40036 allocs/op
BenchmarkJsonIteratorToStruct-4            300       4116491 ns/op     3694017 B/op       30047 allocs/op

從測(cè)試結(jié)果來看,性能排名為:for < for range < json-iterator < encoding/json。接下來我們看看是什么原因?qū)е铝诉@樣子的排名?

性能對(duì)比

for-loop

在測(cè)試結(jié)果中,for range 在性能上相較 for 差。這是為什么呢?在這里我們可以參見 for range 的 實(shí)現(xiàn),偽實(shí)現(xiàn)如下:

for_temp := range
len_temp := len(for_temp)
for index_temp = 0; index_temp < len_temp; index_temp++ {
    value_temp = for_temp[index_temp]
    index = index_temp
    value = value_temp
    original body
}

通過分析偽實(shí)現(xiàn),可得知 for range 相較 for 多做了如下事項(xiàng)

Expression
RangeClause = [ ExpressionList "=" | IdentifierList ":=" ] "range" Expression .

在循環(huán)開始之前會(huì)對(duì)范圍表達(dá)式進(jìn)行求值,多做了 “解” 表達(dá)式的動(dòng)作,得到了最終的范圍值

Copy
...
value_temp = for_temp[index_temp]
index = index_temp
value = value_temp
...

從偽實(shí)現(xiàn)上可以得出,for range 始終使用值拷貝的方式來生成循環(huán)變量。通俗來講,就是在每次循環(huán)時(shí),都會(huì)對(duì)循環(huán)變量重新分配

小結(jié)

通過上述的分析,可得知其比 for 慢的原因是 for range 有額外的性能開銷,主要為值拷貝的動(dòng)作導(dǎo)致的性能下降。這是它慢的原因

那么其實(shí)在 for range 中,我們可以使用 _T[i] 也能達(dá)到和 for 差不多的性能。但這可能不是 for range 的設(shè)計(jì)本意了

json.Marshal/Unmarshal encoding/json

json 互轉(zhuǎn)是在三種方案中最慢的,這是為什么呢?

眾所皆知,官方的 encoding/json 標(biāo)準(zhǔn)庫(kù),是通過大量反射來實(shí)現(xiàn)的。那么 “慢”,也是必然的??蓞⒁娤率龃a:

...
func newTypeEncoder(t reflect.Type, allowAddr bool) encoderFunc {
    ...
    switch t.Kind() {
    case reflect.Bool:
        return boolEncoder
    case reflect.Int, reflect.Int8, reflect.Int16, reflect.Int32, reflect.Int64:
        return intEncoder
    case reflect.Uint, reflect.Uint8, reflect.Uint16, reflect.Uint32, reflect.Uint64, reflect.Uintptr:
        return uintEncoder
    case reflect.Float32:
        return float32Encoder
    case reflect.Float64:
        return float64Encoder
    case reflect.String:
        return stringEncoder
    case reflect.Interface:
        return interfaceEncoder
    case reflect.Struct:
        return newStructEncoder(t)
    case reflect.Map:
        return newMapEncoder(t)
    case reflect.Slice:
        return newSliceEncoder(t)
    case reflect.Array:
        return newArrayEncoder(t)
    case reflect.Ptr:
        return newPtrEncoder(t)
    default:
        return unsupportedTypeEncoder
    }
}

既然官方的標(biāo)準(zhǔn)庫(kù)存在一定的 “問題”,那么有沒有其他解決方法呢?目前在社區(qū)里,大多為兩類方案。如下:

預(yù)編譯生成代碼(提前確定類型),可以解決運(yùn)行時(shí)的反射帶來的性能開銷。缺點(diǎn)是增加了預(yù)生成的步驟

優(yōu)化序列化的邏輯,性能達(dá)到最大化

接下來的實(shí)驗(yàn),我們用第二種方案的庫(kù)來測(cè)試,看看有沒有改變。另外也推薦大家了解如下項(xiàng)目:

json-iterator/go

mailru/easyjson

pquerna/ffjson

json-iterator/go

目前社區(qū)較常用的是 json-iterator/go,我們?cè)跍y(cè)試代碼中用到了它

它的用法與標(biāo)準(zhǔn)庫(kù) 100% 兼容,并且性能有較大提升。我們一起粗略的看下是怎么做到的,如下:

reflect2

利用 modern-go/reflect2 減少運(yùn)行時(shí)調(diào)度開銷

...
type StructDescriptor struct {
    Type   reflect2.Type
    Fields []*Binding
}

...
type Binding struct {
    levels    []int
    Field     reflect2.StructField
    FromNames []string
    ToNames   []string
    Encoder   ValEncoder
    Decoder   ValDecoder
}

type Extension interface {
    UpdateStructDescriptor(structDescriptor *StructDescriptor)
    CreateMapKeyDecoder(typ reflect2.Type) ValDecoder
    CreateMapKeyEncoder(typ reflect2.Type) ValEncoder
    CreateDecoder(typ reflect2.Type) ValDecoder
    CreateEncoder(typ reflect2.Type) ValEncoder
    DecorateDecoder(typ reflect2.Type, decoder ValDecoder) ValDecoder
    DecorateEncoder(typ reflect2.Type, encoder ValEncoder) ValEncoder
}
struct Encoder/Decoder Cache

類型為 struct 時(shí),只需要反射一次 Name 和 Type,會(huì)緩存 struct Encoder 和 Decoder

var typeDecoders = map[string]ValDecoder{}
var fieldDecoders = map[string]ValDecoder{}
var typeEncoders = map[string]ValEncoder{}
var fieldEncoders = map[string]ValEncoder{}
var extensions = []Extension{}

....

fieldNames := calcFieldNames(field.Name(), tagParts[0], tag)
fieldCacheKey := fmt.Sprintf("%s/%s", typ.String(), field.Name())
decoder := fieldDecoders[fieldCacheKey]
if decoder == nil {
    decoder = decoderOfType(ctx.append(field.Name()), field.Type())
}
encoder := fieldEncoders[fieldCacheKey]
if encoder == nil {
    encoder = encoderOfType(ctx.append(field.Name()), field.Type())
}
文本解析優(yōu)化
小結(jié)

相較于官方標(biāo)準(zhǔn)庫(kù),第三方庫(kù) json-iterator/go 在運(yùn)行時(shí)上做的更好。這是它快的原因

有個(gè)需要注意的點(diǎn),在 Go1.10 后 map 類型與標(biāo)準(zhǔn)庫(kù)的已經(jīng)沒有太大的性能差異。但是,例如 struct 類型等仍然有較大的性能提高

總結(jié)

在本文中,我們首先進(jìn)行了性能測(cè)試,再分析了不同方案,得知為什么了快慢的原因。那么最終在選擇方案時(shí),可以根據(jù)不同的應(yīng)用場(chǎng)景去抉擇:

對(duì)性能開銷有較高要求:選用 for,開銷最小

中規(guī)中矩:選用 for range,大對(duì)象慎用

量小、占用小、數(shù)量可控:選用 json.Marshal/Unmarshal 的方案也可以。其重復(fù)代碼少,但開銷最大

在絕大多數(shù)場(chǎng)景中,使用哪種并沒有太大的影響。但作為工程師你應(yīng)當(dāng)清楚其利弊。以上就是不同的方案分析概要,希望對(duì)你有所幫助 :)

文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址:http://systransis.cn/yun/30119.html

相關(guān)文章

  • 通過 Go 在去中心化交易所OceanOne上掛單買賣Bitcoin

    摘要:方案二掛單交易所是基于的去中心化交易所,它性能一流。完整的步驟如下檢查比特幣或的余額,錢包地址。比特幣的到帳時(shí)間是個(gè)區(qū)塊的高度,約分鐘。 showImg(https://segmentfault.com/img/remote/1460000018378805?w=1200&h=659); 上一章介紹了Exincore,你可以1秒完成資產(chǎn)的市價(jià)買賣。如果你想限定價(jià)格買賣,或者買賣一些ex...

    vincent_xyb 評(píng)論0 收藏0
  • Python語(yǔ)法糖——for/else循環(huán)語(yǔ)句里的break

    摘要:在中的或者循環(huán)之后還可以有子句,作用是循環(huán)中條件一直不滿足,則最后就執(zhí)行語(yǔ)句。而當(dāng)循環(huán)是由語(yǔ)句中斷時(shí),就不被執(zhí)行。等效于下面這段代碼,可以類似語(yǔ)言那樣添加一個(gè)與語(yǔ)句相似,語(yǔ)句中的子句用法是一樣的,塊在循環(huán)正常結(jié)束和循環(huán)條件不成立時(shí)執(zhí)行。 在Python中的while或者for循環(huán)之后還可以有else子句,作用是for循環(huán)中if條件一直不滿足,則最后就執(zhí)行else語(yǔ)句。 for i in...

    missonce 評(píng)論0 收藏0
  • 基于Mixin Network的Go語(yǔ)言比特幣開發(fā)教程 : 創(chuàng)建一個(gè)比特幣錢包

    摘要:帳號(hào)之間的比特幣支付通過,我們可以先轉(zhuǎn)比特幣給機(jī)器人,然后讓機(jī)器人轉(zhuǎn)幣給新用戶。下面的代碼,可以讀取比特幣錢包余額讀取的余額,來確認(rèn)比特幣是不是轉(zhuǎn)成功了注意是新用戶的。 showImg(https://github.com/wenewzhang/mixin_labs-go-bot/raw/master/Bitcoin_go.jpg);我們已經(jīng)創(chuàng)建過一個(gè)回復(fù)消息的機(jī)器人和一個(gè)能自動(dòng)支付比...

    legendaryedu 評(píng)論0 收藏0
  • 通過 Go 在去中心化交易所OceanOne上掛單買賣任意ERC20 token

    摘要:在上一課中,我們介紹了如何在交易比特幣。支持交易任何上的,包括所有的和,不需要任何手續(xù)和費(fèi)用,直接掛單即可。下面介紹如何將將一個(gè)掛上交易在掌握了之后,就可以把任何在上買賣。 showImg(https://segmentfault.com/img/remote/1460000018378805?w=1200&h=659); 在上一課中,我們介紹了如何在OceanOne交易比特幣。Oce...

    ivydom 評(píng)論0 收藏0
  • Java 8 Stream的性能到底如何?

    摘要:而一個(gè)編譯器本身是有一個(gè)上限的,雖然大部分情況下是用不滿的。我們將此稱作友好或者不友好的分割。同時(shí),也不要無(wú)緣無(wú)故就覺得人家損害了你應(yīng)用的性能,那是你自己用得不好。 Java 8提供的流的基于Lambda表達(dá)式的函數(shù)式的操作寫法讓人感覺很爽,筆者也一直用的很開心,直到看到了Java8 Lambda表達(dá)式和流操作如何讓你的代碼變慢5倍,筆者當(dāng)時(shí)是震驚的,我讀書少,你不要騙我。瞬間我似乎為...

    Sike 評(píng)論0 收藏0

發(fā)表評(píng)論

0條評(píng)論

最新活動(dòng)
閱讀需要支付1元查看
<