機器學習筆記: 基本概念 - 小狐狸事務所

自2018 年開始接觸機器學習後, 三年下來仍然是一知半解. 最近從母校借來的"精通機器學習 (第二版)" 因被預約即將歸還, 但書卻沒看多少, 只好將前三章閱讀 ... 2021年9月14日星期二 機器學習筆記:基本概念 自2018年開始接觸機器學習後,三年下來仍然是一知半解.最近從母校借來的"精通機器學習(第二版)"因被預約即將歸還,但書卻沒看多少,只好將前三章閱讀筆記整理如下. Source:博客來此書譯自Oreilly2019年出版的原文書第二版:  #Hands-onMachineLearningwithScikit-Learn,Keras,andTensorFlow (Oreilly,2019) Source:博客來之前也曾從母校借過此書原文第一版(僅16章),新版內容修訂擴充為19章.與原文書價格相比,翻譯本真的便宜多多,且中文版閱讀速度可以更快.此書屬於實作類,沒有演算法方程式的理論推導,而是簡單介紹概念後直接給出演算式,接著列出Python實作,用的是準生產框架(scikit-learn與TensorFlow/Keras),不是用來演繹理論的玩具版本Python程式.本書Jupyter範例可從GitHub下載:#https://github.com/ageron/handson-ml2 閱讀此書的先備知識包括:Numpy+Pandas+Matplotlib微積分+線性代數+機率統計手上還有其它幾本參考書也是很不錯,可交互參照學習:#深度學習必讀(旗標)#最新tf.Keras深度學習攻略手冊(旗標)  此書內容主要分成兩大部分,第一部分介紹Scikit-Learn套件(淺水區),第二部分則是TensorFlow與Keras(深水區).但作者提醒不要匆忙地跳入深水區,因為大部分的機器學習問題都可以用比較簡單的淺水區技術例如隨機森林等解決,比較複雜的問題例如影像辨識,語音辨識,與自然語言處理才需要使用深度學習技術.  摘要整理前兩章筆記如下: CH1: 深度神經網路是人類大腦的極度簡化模型,深度學習一詞源自GeoffreyHinton於2006年發表的一篇論文"AFastLearningAlgorithmforDeepBeliefNets",此論文介紹如何訓練深度神經網路使其能以>%98的準確度辨識手寫數字,此論文重新喚起科學社群對神經網路的興趣. 機器學習是屬於計算機科學的一門科學及藝術,可讓計算機用資料來學習.ArtherSamuel於1959年為機器學習所下的定義是:"機器學習是一種學習領域,可賦予電腦學習的能力,且不需要明確地將規則編寫為程式". 雖然深度學習無疑是機器學習中最令人興奮的領域,但也不要匆忙跳入深水區,因為大部分的問題都可以用比較簡單的技術例如隨機森林等來解決.深度學習非常適合用來處理複雜的問題,例如影像辨識,語音辨識,或自然語言處理. 計算機傳統上是以編寫含有複雜規則的軟體(rule-based)來處理問題,但有些問題(例如語音與影像辨識)並沒有很確切的規則或演算法來編寫程式,而是需要從資料中動態學習其規則.機器學習的分類:(1).監督學習vs非監督學習vs半監督vs強化(是否需要人類監督)(2).線上學習vs批次學習(是否可在運行中不斷學習)(3).基於實例學習vs基於模型學習(只拿新資料與已知資料比較,或需建構預測模型)機器學習適合處理的問題:(1).傳統解決方案需要許多微調與使用大量規則去處理的問題.(2).使用傳統方法無法得到良好解答之複雜問題.(3).波動的環境,因為機器學習系統可以適應新資料.(4).需要深入了解的複雜問題或有大量資料的問題.機器學習的應用範例:(1).生產線產品圖片自動分類(可用CNN)(2).辨識CT掃描圖片中的腫瘤部位  (可用CNN)(3).新聞自動分類(可用RNN,CNN,或Transformer等NLP技術)(4).自動標示論壇中的冒犯言論(可用RNN,CNN,或Transformer等NLP技術)(5).自動摘要長篇文章(可用RNN,CNN,或Transformer等NLP技術)(6).建立聊天機器人或數位助理(使用NLP與詢答系統)(7).預測公司營收(使用回歸模型)(8).建立語音回應App(可用RNN,CNN,或Transformer等NLP技術)(9).偵測信用卡詐騙 (10).依據顧客消費紀錄協助制訂行銷策略(分群技術&推薦系統)(11).建立遊戲中的智慧機器人(例如AlphaGo使用強化學習)典型的監督式學習任務(task)是分類,例如分辨垃圾信件.另外一個任務是依據特徵來預測目標(target)的數值,稱為廻歸.不過有些廻歸演算法也可以用來分類,反之亦然.例如Logistic回歸演算法經常被拿來做分類用. 在機器學習中,屬性(attribute)指的是資料類型(例如gender),而特徵(feature)則視情況而有不同意思,但通常是指屬性加上其值(例如gender='female'),屬性與特徵這兩個詞常常被混用.  最重要的幾個監督式學習演算法: (1).K-近鄰(2).線性回歸(3).Logistic回歸(4).支援向量機(SVM)(5).決策樹與隨機森林(6).神經網路(例如深度信念網路deepbeliefnetwork為半監督式學習)在無監督式學習中,訓練資料是沒有標籤的.最重要的無監督學習演算法:(1).分群:K-Means,DBSCAN,階層式分群(HCA)(2).異常與新穎檢測:one-classSVM,孤立森林(isolationforest)(3).視覺化與降維:主成分分析(PCA),KernelPCA,局部線性嵌入(LLE),t-隨機近鄰嵌入(t-SNE)(4).關聯規則學習:先驗,Eclat所謂新穎檢測(noveltydetection)是檢測與訓練組的所有實例不一樣的新實例. 降維(dimensionalityreduction)目的是在不損失過多資訊的前題下簡化資料,其中一種作法是將許多相關的特徵合併為一個,例如汽車里程數與其車齡有緊密關係,故降維演算法會將其合併為一個特徵,以示汽車之損耗,稱為特徵擷取(featureextraction).批次學習系統與線上學習的差別是,系統能不能用持續傳入的資料來逐漸學習.批次系統無法漸進學習,必須先用所有可用資料來訓練,通常需要大量時間與計算資源,因此通常是離線的.批次學習先訓練再於運營環境啟動它,當它開始運行時就不再學習了,只利用它學過的東西完成任務.如果要讓批次系統認識新資料,必須用新舊完整資料重新訓練,然後停止系統換上新的模型.有些任務(例如預測股價)因為新資料不斷出現,因此頻繁地重新訓練系統所費不眥,甚至因為資料量太大而無法使用批次學習系統.線上學習系統可以在收到資料時立刻來學習,資料彙分別依序傳入或以小批次(minibatch)的方式傳入,每一個訓練步驟既快速又便宜.線上學習適合需要持續接收資料串流的任務(例如預測股價),也適合在有限的計算資源下使用,在學習過新資料實例後便不再需要它們,因此可節省大量儲存空間. 線上學習有一個重要參數叫做學習速度(learningrate),表示系統適應不斷變動的資料速度有多快.此學習率若設得很高,系統會很快適應新資料,但往往也會快速忘掉舊資料.反之若設得低,系統的慣性大,學習速度慢,但也對新資料的雜訊(不具代表性的資料點)較不敏感.線上學習有一個很大的挑戰是,進入系統的不良資料會讓系統的效能逐漸下滑,為了降低這種風險,必須監視密切系統,一旦發現系統性能下降立即關閉線上學習;或者需要監視輸入資料(例如使用異常檢測演算法)並處理異常資料.  機器學習系統還可以用其類推(inference)所學之方式來分類.類推的方式主要有兩種:一是基於實例(instance-based)的學習,一是基於模型(model-based)的學習.基於實例的學習就是系統用死記硬背的方式學習樣本,將新案例與學過的舊案例比較,根據相似度(similarity)來類推新案例.而基於模型的學習則是用一組樣本來建立這些樣本的模型,然後再使用這些模型來類推新案例.  機器學習主要的工作簡單來說就是:(1).選擇學習演算法(2).使用良好的資料進行訓練機器學習出錯的原因也同樣有兩個原因:(1).不良的演算法(過擬或欠擬)(2).不良的資料(訓練資料不足,無代表性,資料品質低,使用無關的特徵)所謂抽樣雜訊指的就是無代表性的資料,使用無代表性的資料不太可能訓練出準確的模型. 如果抽樣的方法有缺陷,即使是很大的樣本也可能無代表性,此種情形叫做抽樣偏差. 機器學習專案成功的關鍵之一在於找出一組良好的特徵來訓練,此程序稱為特徵工程(featureengineering),它包含如下步驟:(1).特徵選擇(選出最有用的特徵來訓練)(2).特徵提取(利用既有特徵來產生更時用的特徵)(3).收集新資料來建立新的特徵所謂過擬(overfitting)是指模型在處理訓練資料時有很好的表現,但是它無法進行正確的類推.當模型的複雜程度遠超過訓練資料的數量和雜訊時,就會出現過擬現象.解決辦法是:(1).簡化模型:選擇參數較少的模型,減少訓練資料之屬性數量,約束模型(2).收集更多訓練資料(3).減少訓練資料的雜訊約束模型來簡化它以減少過擬風險稱為正則化(regularization),可以利用超參數(superparameter)來控制炫練期間的正則化程度.超參數是演算法的參數,它不會被學習演算法本身影響,它必須在訓練之前設定好,並且在訓練期間保持不變.調整超參數是建立機器學習系統的重要程序.欠擬(underfitting)就是過擬的相反,它代表模型太簡單了,以至於無法學習資料的任何底層結構,不論是預測訓練案例或測試案例都是不準確的.解決欠擬的辦法是:(1).選擇更強大的模型,使用更多參數(2).利用特徵工程餵更好的特徵給學習演算法(3).減少對模型的約束(例如減少正則化超參數)機器學習專案的執行過程首先是收集訓練資料集(訓練組),然後將訓練資料餵給學習演算法.如果演算法是基於模型的,你需要調整一些參數來擬合訓練組(即準確預測訓練組本身),然後期待模型能準確預測新案例;如果是基於實例的模型,它只會用強記硬背的方式學習案例,在使用相似度來比較新案例與已學過的實例以類推新案例. 類推新案例時的錯誤率稱為類推誤差(generalizationerror或out-of-exampleerror),你可以用測試組來評估模型,得到類推誤差的估計值,藉以了解當模型遇到沒有看過的新實例時表現如何.通常會將資料分成訓練組與測試組,用訓練組來訓練學習模型,然後用測試組來測試它.一般使用80%的資料來訓練,保留20%的資料來測試. 如果有多種模型可用不知道該選擇哪一個該怎麼做?常用的解決辦法採用保留驗證(holdoutvalidation) 程序, 將訓練組挪出一部份稱為驗證組(validationset)或開發組(devset),先用裁員過的訓練組(即完整訓練組扣掉驗證組)加上各種超參數來訓練多個模型,再用驗證組來選出表現最好的模型.完成這個保留驗證程序後,再完整的訓練組來訓練這個最佳模型,最後使用測試組來評估此模型的表現,以便估計類推誤差.驗證組不可太小,否則模型的評估結果會不準確,你可能會選到次優的模型.但驗證組也不可太大,因為這樣用來訓練各模型的資料就太少,也無法挑到最好的模型.可以使用許多小型的驗證組重複交叉驗證來解決此問題.  張貼者： 小狐狸事務所 於 9/14/202109:12:00上午 以電子郵件傳送這篇文章 BlogThis！ 分享至Twitter 分享至Facebook 標籤： 好書 , 機器學習 , Python , TensorFlow 沒有留言 : 張貼留言 較新的文章 較舊的文章 首頁 訂閱： 張貼留言 ( Atom ) 總網頁瀏覽量 小狐狸事務所 載入中… 訂閱 發表文章 Atom 發表文章 留言 Atom 留言 Translate 聯絡表單 名稱 以電子郵件傳送 * 訊息 * 網誌存檔 ►  2022 ( 242 ) ►  七月 ( 28 ) ►  六月 ( 31 ) ►  五月 ( 35 ) ►  四月 ( 42 ) ►  三月 ( 41 ) ►  二月 ( 39 ) ►  一月 ( 26 ) ▼  2021 ( 453 ) ►  十二月 ( 28 ) ►  十一月 ( 38 ) ►  十月 ( 43 ) ▼  九月 ( 47 ) 用Anydesk連線遠端Windows主機 機器學習筆記:Transformer閱讀摘要 機器學習筆記:關於TensorFlow2 機器學習筆記:Seq2seq與NMT閱讀摘要 方便好用的GoogleColab運算平台 QRV11萬公里保養 萬萬的教師節卡片 2021年第39周記事 用VNCCloud遠端連線Windows主機 Win10桌機PPPoE固定IP撥接上網設定 好書:TheDevelopmentofNaturalLanguageProcessing 機器學習筆記:遞迴神經網路(RNN)閱讀摘要 機器學習筆記:捲積神經網路(CNN)閱讀摘要 好站:Jayendra'sCloudCertificationBlog Python內建GUI模組tkinter測試(十五):Progressbar元件 好站:RachelLiao的PyTorch與增強式學習教學 MicroPythonv1.17釋出 中秋與921 常用亂數種子42的由來 2021年第38周記事 重看花甲男孩轉大人 好書:實戰TensorFlowxKeras工作現場開發 Python內建GUI模組tkinter測試(十四):Combobox元件 銀河與星斗 Python內建GUI模組tkinter測試(十三):Spinbox元件 曲肖冰的倆倆相忘 機器學習筆記:基本概念 小森林-冬春篇 機器學習筆記:使用urllib下載資料集的問題 好書:人工智慧與深度學習-理論與Python實踐 2021年第37周記事 唐伯虎點秋香 Python內建GUI模組tkinter測試(十二):Scale元件 土衛六(泰坦)與元上都(Xanadu) 中秋節補班 市圖還書7本(大清倉-3)(jQueryMobile) 神鵰俠侶2004版(劉亦菲+黃曉明) 好書:從程式員到AI專家 TensorFlow自然語言處理閱讀筆記 Python內建GUI模組tkinter測試(十一):Listbox元件 2021年第36周記事 Python內建GUI模組tkinter測試(十):Checkbutton元件 好站:線上程式執行平台trinket 好站:VictorGau's網頁爬蟲範例 Python內建GUI模組tkinter測試(九):Radiobutton元件 協作平台升級後的網頁表格製作問題 蒙提霍爾問題 ►  八月 ( 36 ) ►  七月 ( 25 ) ►  六月 ( 38 ) ►  五月 ( 30 ) ►  四月 ( 35 ) ►  三月 ( 37 ) ►  二月 ( 41 ) ►  一月 ( 55 ) ►  2020 ( 483 ) ►  十二月 ( 42 ) ►  十一月 ( 33 ) ►  十月 ( 35 ) ►  九月 ( 43 ) ►  八月 ( 35 ) ►  七月 ( 30 ) ►  六月 ( 46 ) ►  五月 ( 46 ) ►  四月 ( 39 ) ►  三月 ( 48 ) ►  二月 ( 48 ) ►  一月 ( 38 ) ►  2019 ( 459 ) ►  十二月 ( 38 ) ►  十一月 ( 39 ) ►  十月 ( 34 ) ►  九月 ( 34 ) ►  八月 ( 27 ) ►  七月 ( 50 ) ►  六月 ( 38 ) ►  五月 ( 26 ) ►  四月 ( 51 ) ►  三月 ( 47 ) ►  二月 ( 32 ) ►  一月 ( 43 ) ►  2018 ( 394 ) ►  十二月 ( 38 ) ►  十一月 ( 36 ) ►  十月 ( 30 ) ►  九月 ( 33 ) ►  八月 ( 31 ) ►  七月 ( 26 ) ►  六月 ( 30 ) ►  五月 ( 48 ) ►  四月 ( 26 ) ►  三月 ( 38 ) ►  二月 ( 26 ) ►  一月 ( 32 ) ►  2017 ( 317 ) ►  十二月 ( 35 ) ►  十一月 ( 30 ) ►  十月 ( 24 ) ►  九月 ( 34 ) ►  八月 ( 30 ) ►  七月 ( 27 ) ►  六月 ( 28 ) ►  五月 ( 19 ) ►  四月 ( 22 ) ►  三月 ( 21 ) ►  二月 ( 30 ) ►  一月 ( 17 ) ►  2016 ( 296 ) ►  十二月 ( 17 ) ►  十一月 ( 23 ) ►  十月 ( 28 ) ►  九月 ( 24 ) ►  八月 ( 28 ) ►  七月 ( 33 ) ►  六月 ( 28 ) ►  五月 ( 26 ) ►  四月 ( 24 ) ►  三月 ( 24 ) ►  二月 ( 25 ) ►  一月 ( 16 ) ►  2015 ( 296 ) ►  十二月 ( 18 ) ►  十一月 ( 22 ) ►  十月 ( 19 ) ►  九月 ( 25 ) ►  八月 ( 27 ) ►  七月 ( 24 ) ►  六月 ( 15 ) ►  五月 ( 23 ) ►  四月 ( 32 ) ►  三月 ( 51 ) ►  二月 ( 22 ) ►  一月 ( 18 ) ►  2014 ( 323 ) ►  十二月 ( 29 ) ►  十一月 ( 18 ) ►  十月 ( 16 ) ►  九月 ( 15 ) ►  七月 ( 11 ) ►  六月 ( 27 ) ►  五月 ( 41 ) ►  四月 ( 38 ) ►  三月 ( 43 ) ►  二月 ( 38 ) ►  一月 ( 47 ) ►  2013 ( 267 ) ►  十二月 ( 22 ) ►  十一月 ( 23 ) ►  十月 ( 35 ) ►  九月 ( 28 ) ►  八月 ( 13 ) ►  七月 ( 32 ) ►  六月 ( 27 ) ►  五月 ( 13 ) ►  四月 ( 19 ) ►  三月 ( 18 ) ►  二月 ( 12 ) ►  一月 ( 25 ) ►  2012 ( 49 ) ►  十二月 ( 2 ) ►  八月 ( 5 ) ►  七月 ( 5 ) ►  六月 ( 2 ) ►  五月 ( 4 ) ►  四月 ( 5 ) ►  三月 ( 4 ) ►  二月 ( 10 ) ►  一月 ( 12 ) ►  2011 ( 178 ) ►  十二月 ( 9 ) ►  十一月 ( 17 ) ►  十月 ( 5 ) ►  九月 ( 1 ) ►  八月 ( 7 ) ►  七月 ( 7 ) ►  六月 ( 5 ) ►  五月 ( 12 ) ►  四月 ( 29 ) ►  三月 ( 29 ) ►  二月 ( 21 ) ►  一月 ( 36 ) ►  2010 ( 201 ) ►  十二月 ( 18 ) ►  十一月 ( 30 ) ►  十月 ( 23 ) ►  九月 ( 8 ) ►  八月 ( 11 ) ►  七月 ( 9 ) ►  六月 ( 16 ) ►  五月 ( 14 ) ►  四月 ( 47 ) ►  三月 ( 5 ) ►  二月 ( 3 ) ►  一月 ( 17 ) ►  2009 ( 256 ) ►  十二月 ( 18 ) ►  十一月 ( 29 ) ►  十月 ( 6 ) ►  九月 ( 38 ) ►  八月 ( 25 ) ►  七月 ( 24 ) ►  六月 ( 17 ) ►  五月 ( 16 ) ►  四月 ( 4 ) ►  三月 ( 24 ) ►  二月 ( 34 ) ►  一月 ( 21 ) ►  2008 ( 303 ) ►  十二月 ( 28 ) ►  十一月 ( 18 ) ►  十月 ( 26 ) ►  九月 ( 29 ) ►  八月 ( 30 ) ►  七月 ( 62 ) ►  六月 ( 59 ) ►  五月 ( 48 ) ►  四月 ( 2 ) ►  三月 ( 1 ) 文章標籤 ♥ ( 19 ) ♥♥ ( 10 ) ♥♥♥ ( 9 ) 人工智慧 ( 86 ) 八字學 ( 1 ) 大數據 ( 6 ) 小狐狸 ( 73 ) 小狐狸生態 ( 22 ) 工作 ( 48 ) 手機 ( 29 ) 日文 ( 3 ) 木工 ( 23 ) 比特幣 ( 2 ) 主機 ( 72 ) 占星術 ( 6 ) 生活 ( 1135 ) 生活雜記 ( 8 ) 多媒體 ( 4 ) 好文 ( 6 ) 好書 ( 393 ) 好站 ( 251 ) 自作專案 ( 3 ) 自動化 ( 29 ) 系統 ( 4 ) 其他 ( 65 ) 易經 ( 1 ) 物理學 ( 10 ) 物聯網 ( 250 ) 信號處理 ( 4 ) 架站 ( 13 ) 相術 ( 2 ) 科學 ( 22 ) 英文 ( 9 ) 計算語言學 ( 3 ) 音樂 ( 73 ) 飛控 ( 25 ) 食譜 ( 70 ) 修行 ( 22 ) 借書 ( 5 ) 旅行 ( 44 ) 旅遊 ( 1 ) 書籤 ( 2 ) 索引 ( 30 ) 能源 ( 81 ) 動畫 ( 2 ) 區塊鏈 ( 3 ) 專案 ( 20 ) 排版 ( 3 ) 控制系統 ( 1 ) 教育 ( 17 ) 理財 ( 123 ) 軟體開發 ( 8 ) 通訊 ( 3 ) 備忘 ( 2 ) 創客 ( 31 ) 單晶片 ( 30 ) 智慧音箱 ( 1 ) 無人機 ( 18 ) 硬體 ( 38 ) 紫微斗數 ( 2 ) 統計 ( 4 ) 統計學 ( 10 ) 虛擬幣 ( 3 ) 評論 ( 169 ) 量化投資 ( 3 ) 雲端 ( 21 ) 園藝 ( 1 ) 新知識 ( 1 ) 新產品 ( 1 ) 新軟體 ( 7 ) 資安 ( 7 ) 資料科學 ( 32 ) 資料庫 ( 4 ) 農業 ( 23 ) 電子零件 ( 27 ) 電子學 ( 18 ) 電腦 ( 210 ) 電腦技術 ( 12 ) 電路學 ( 1 ) 演算法 ( 8 ) 網頁技術 ( 218 ) 網路 ( 43 ) 網路爬蟲 ( 29 ) 網購 ( 316 ) 語言學 ( 55 ) 語音技術 ( 4 ) 語音辨識 ( 10 ) 影像處理 ( 1 ) 影像辨識 ( 2 ) 數學 ( 21 ) 線上工具 ( 2 ) 線性代數 ( 1 ) 論文 ( 1 ) 養生 ( 20 ) 樹莓派 ( 189 ) 機器人 ( 6 ) 機器學習 ( 154 ) 歷史 ( 59 ) 戲劇 ( 23 ) 還書 ( 118 ) 韓文 ( 1 ) 韓劇 ( 10 ) 醫藥 ( 54 ) 繪圖 ( 3 ) 藝術 ( 2 ) 讀書劄記 ( 9 ) 邏輯設計 ( 17 ) Android ( 13 ) AngularJS ( 1 ) Anime ( 1 ) App ( 30 ) Appfog ( 4 ) Arduino ( 179 ) ASP ( 11 ) AutoIt ( 15 ) AWS ( 16 ) Azure ( 1 ) BananaPi ( 3 ) BigData ( 1 ) Blynk ( 7 ) Bootstrap ( 23 ) brython ( 1 ) C語言 ( 19 ) Chart.js ( 2 ) Chatbot ( 5 ) Cheatsheet ( 2 ) CKeditor ( 1 ) Corona ( 3 ) CSS ( 10 ) D3.js ( 6 ) DataMining ( 1 ) Django ( 19 ) DSP ( 3 ) EasyUI ( 48 ) ESP32 ( 52 ) ESP8266 ( 144 ) Excel ( 11 ) ExtJS ( 24 ) Fintech ( 18 ) Firebase ( 3 ) Flask ( 3 ) FPGA ( 1 ) GAE ( 40 ) GAS ( 2 ) GCP ( 4 ) Git ( 11 ) GitHub ( 3 ) Go ( 1 ) Google ( 24 ) Highcharts ( 2 ) HomeAssistant ( 1 ) HTML5 ( 39 ) IC設計 ( 7 ) Java ( 100 ) JavaFX ( 1 ) Javascript ( 87 ) Jetson ( 10 ) Joomla ( 3 ) jqPlot ( 1 ) jQuery ( 123 ) jQueryMobile ( 30 ) jQueryUI ( 35 ) JSP ( 2 ) Julia ( 12 ) Kali ( 1 ) Keras ( 1 ) Kotlin ( 1 ) Line ( 3 ) Linux ( 13 ) LoRa ( 12 ) Lua ( 6 ) MacOS ( 11 ) Masonite ( 1 ) Mathematics ( 2 ) Matplotlib ( 6 ) mermaid.js ( 1 ) Micro:bit ( 3 ) MicroPython ( 91 ) MongoDB ( 3 ) Nginx ( 3 ) NLP ( 29 ) NLTK ( 5 ) Node.js ( 14 ) NoSQL ( 1 ) Numpy ( 1 ) OpenCV ( 2 ) p5.js ( 14 ) Pandas ( 7 ) PHP ( 109 ) Praat ( 23 ) Python ( 430 ) PyTorch ( 11 ) R語言 ( 42 ) RaspberryPi ( 132 ) Ruby ( 1 ) scikit-learn ( 2 ) SciPy ( 4 ) Seaborn ( 2 ) SpaCy ( 4 ) SQL ( 15 ) SQLite ( 1 ) STM32 ( 2 ) Swift ( 6 ) TCP/IP ( 6 ) TensorFlow ( 19 ) tensorflow.js ( 3 ) Three.js ( 1 ) TinyMCE ( 1 ) tkinter ( 16 ) UAV ( 3 ) Ubuntu ( 2 ) Verilog ( 1 ) VHDL ( 1 ) VoIP ( 1 ) Vue ( 7 ) WebGL ( 3 ) Wireshark ( 2 ) WordPress ( 18 ) WSH ( 5 ) 常用連結 QR-Code產生器 爾灣分校Python函式庫 神秘金字塔 MyGitHib Google協作平台 Hinet信箱 Dropbox box Aliexpress bittrix24 CCompiler CH.Tseng G.T.Wang部落格 HomePi HTMLCleaner IBMSwiftSandbox Inside Kej'sRetriever muckibu.de OneDrive Pinterest Python機器學習 Rmanual Rapidgator TutorialsPoint VirusTotal Youtube-mp3 Zamzar線上轉檔 中華電信Hibox 台大網路測速 線上C編譯器 線上OCR 螢幕錄影 訂台鐵與高鐵票 高師大圖書館 高科大圖書館 高雄市立圖書館 線上方程式 音頻轉換器 CSS色碼表 Youtube轉mp3 熱門文章 Arduino基本語法筆記 Arduino的程式語法基於C/C++,其實就是客製化的C/C++語言,其程式架構仿自廣為藝術與設計界人士熟悉的Processing語言,而其開發工具ArduinoIDE則是衍生自以Processing為基礎的電子開發設計平台Wiring.由於... Arduino串列埠測試(UART) 今天要下午才進辦公室,早上都在家,所以研究測試了一下Arduino的串列埠,紀錄整理如下.所謂串列埠是源自IBMPC的RS-232通訊協定,也就是個人電腦後面的COM埠(9針公座DB-9),現在新的桌上型電腦與筆電大都沒有接出COM埠了,... GooglePlay安裝或更新App一直顯示"正在等待下載"問題 最近我的Note8手機要更新Yahoo股市App時一直顯示 "正在等待下載",但是進度條卻不動:我按GooglePlay左上角的三條槓選"設定",點"應用程式下載偏好設定"改... Python內建GUI模組tkinter測試(一):建立視窗 最近因為玩樹苺派的關係,接觸到Python內建的GUI開發模組Tkinter(意思是TkInterface),初步覺得比用Java的Swing還要來得容易,因此就來學看看唄!Tk原先是為Tcl語言所開發的GUI套件,因為是T... Java複習筆記:陣列 陣列是程式員最常用的資料結構,Java的陣列屬於傳統的固定式陣列,亦即陣列元素資料類型必需相同,而且元素個數必須先宣告才能使用,不像Javascript等動態語言之陣列允許異質性資料,且長度不需先宣告即可使用.當然,Java陣列也不支援關聯性陣列,Java... jQueryUI的日期選擇器datepicker測試 近兩周都在玩jQueryUI的日曆小工具(或日期選擇器datepicker),就是讓使用者可以直接在日曆上選取日期的小工具,而且日期格式可以指定.這個widget小工具根據書上講是jQueryUI最古老,功能選項也最龐大的一個,照官網範例三兩下就看到... 邏輯設計筆記序向篇:Latch(電栓)與Flip-Flop(正反器) 這個月為了邏輯設計授課努力打了200多頁簡報,為了查閱方便整理在此,同時也讓我的外籍學生們可利用Google翻譯以母語複習上課內容.由於本次協同授課負責序向邏輯部分,因此先整理序向邏輯,組合邏輯以後有機會再整理.雖然說現在設計IC大都改用VHDL或V... ★ESP8266WiFi模組ATcommand測試 這是我今年四月以$180向露天賣家XLAN買的超小型WiFi模組(現已降價為$145),採用上海樂鑫科技的ESP8266晶片,板子型式是ESP-01,這是Arduino最經濟的WiFi方案,因為目前買一塊內建WiFi的Arduin... ★ESP8266WiFi模組與Arduino連線測試 經過兩個月來的摸索,對於Arduino經由ESP8266連上網路的實驗終於來到實作階段.這當中也分心去研究如何製做ESP8266的轉接板,雖已經有腹案,但覺得還是先把連網實驗做完再來搞定轉接板好了.這兩塊板子互連主要有兩個障礙,一是開發階段串列埠不夠的問題... Arduino的聲音測試(一) 很早就想做這個實驗,因為只需要ArduinoNANO加上一個蜂鳴器就可以進行了,頂多加一顆按鈕開關,這跟物聯網無關,因此不需要用到ESP8266上網.趁著中秋連假,就把這個簡單的小實驗做完吧!以下實驗所用的程式是參考下列幾本書裡面的範例加以修改來的:... 關於我自己 小狐狸事務所 熱愛自由不想被拘束,無法忍受無聊而不斷學習的射手座,因為記性不好必須在部落格紀錄思考學習與生活點滴的平凡上班族. 檢視我的完整簡介 追蹤者