SparkSQL文法概述

  • 文档创建者:Wendy123456
  • 历史版本:30
  • 最近更新:Nikozhan 于 2025-04-14
  • 1. 概述

    1.1 版本

    FineDataLink 版本功能變更
    3.6.2
    数据转换概述 新增算子「Spark SQL」算子,可實現較靈活的資料轉換功能
    4.0.17

    「Spark SQL」算子支援使用加密相關函式和變

    同時支援作為資料源輸入參數或常數

    4.1.6.4支援 to_json、struct 函式,詳情請參見:to_json、struct函式

    1.2 說明

    本文介紹常用的 Spark SQL 文法,便於使用者使用算子進行資料處理和開發。

    注1:Spark SQL 算子具體用法請參見:Spark SQL

    注2:暫不支援 Spark SQL 處理有轉義的內容。

    2. 索引

    分類文檔
    Spark SQL 中的常用運算子和文法說明SparkSQL常用语法
    Spark SQL 中支援的條件函式SparkSQL条件函数
    Spark SQL 中支援的聚合函式SparkSQL聚合函数
    Spark SQL 中支援的視窗函式,可使用進行分組資料處理和計算SparkSQL窗口函数
    Spark SQL 中支援的編碼函式等,可用於在 API 取數時生成 TokenSparkSQL编码、加密、解密函数
    Spark SQL 中支援的字串函式,可使用進行字串處理SparkSQL字符串函数
    SparkSQL 中的日期函式,可使用進行日期資料的處理SparkSQL日期函数
    SparkSQL 中的數學函式,可使用進行數學計算SparkSQL数学函数

    3. 更多文法參考

    更多文法使用請參考:SparkSQL文法該網站非 FDL 說明文檔維護,有時可能會出現無法存取的情況)。

    4. 注意事項

    問題描述:

    「Spark SQL」算子中,SELECT split('apple,banana,orange', ',') FROM $[DB表輸入] 報錯Unknown data type:array - Unknown data type:array

    原因分析:

    我們支援中間結果是 array 類型繼續計算,但是不支援 array 類型作為匯出。



    附件列表


    主题: 資料開發-定時任務
    • 有帮助
    • 没帮助
    • 只是浏览
    • 评价文档,奖励 1 ~ 100 随机 F 豆!