怎么通过udf将热流量加载到udf 壁面对流换热系数

扫二维码下载作业帮
3亿+用户的选择
下载作业帮安装包
扫二维码下载作业帮
3亿+用户的选择
Fluent热源设置:生热速率随温度变化,UDF怎么编写啊!热源Qv= A*T+ B*T^2+ C*T^3+ D*T^4,其中A、B、C、D是常数,T就是温度.请问,这个四次方公式,用UDF怎么编写啊?因为刚开始学流体动力学分析,UDF编程太难学了,完全不理解啊.希望多多帮助啊,就那种语句编写
作业帮用户
扫二维码下载作业帮
3亿+用户的选择
#include "udf.h"DEFINE_SOURCE(heat-gen,c,t,dS,eqn){real A=;real B=;real C=;real D=;real T=C_T(c,t);real source=A*T+ B*pow{T,2)+ C*pow{T,3)+ D*pow{T,4);dS[eqn]=0;//关于dS系源项对温度的一阶偏导,来源于傅里叶展开,可以设置该值,简化处理默认为零}
real T=C_T(c,t); 怎么解释?还有pow{T,2) 什么意思,括号左右不一样么?
我还没从Define>User-Defined>Functions>Compiled编译激活,先问一下
真感谢,回答得正是我需要的……
real T=C_T(c,t)这是fluent本身自带宏,用于获取数据储存胞元的温度值,关于pow(x,y)函数则是C++的语法结构,数学表达式是x^y
为您推荐:
扫描下载二维码数加&大数据分析及展现
数加&大数据应用
管理与监控
阿里云办公
培训与认证
域名与网站(万网)
数加&人工智能
数加&大数据基础服务
互联网中间件
开发者工具
钉钉智能硬件
MaxCompute
&&&&&&&&&&&&没有权限编写UDF
没有权限编写UDF
更新时间: 02:29:22
问题现象编写 UDF,注册函数,然后执行,结果报错如下:
FAILED: Do not allow java UDF in project: xxx。
问题原因出现上述报错,是因为您没有 UDF 的权限,目前的 UDF 不是默认开放的。
解决办法如果您需要获得此权限,请通过工单进行申请。
本文导读目录
以上内容是否对您有帮助?
更新不及时
缺少代码/图片示例
太简单/步骤待完善
更新不及时
缺少代码/图片示例
太简单/步骤待完善
感谢您的打分,是否有意见建议想告诉我们?
感谢您的反馈,反馈我们已经收到查看: 4922|回复: 40
FLUENT UDF应用实体教程
六级士官, 积分 1342, 距离下一级还需 658 积分
六级士官, 积分 1342, 距离下一级还需 658 积分
阅读权限70
在线时间72 小时
六级士官, 积分 1342, 距离下一级还需 658 积分
六级士官, 积分 1342, 距离下一级还需 658 积分
阅读权限70
在线时间72 小时
& && && && && && && && && && & 网格对于网格和几何体的要求:1,对于轴对称的几何体,对称轴必须是x轴。2,gambit 能生等角的或非等角的周期性的边界区域。另外,可以在fluent中通过make-periodic文本命令来生成等角的周期性的边界区域。 网格质量:1.&&节点密度和聚变。对于由于负压强梯度引起的节点脱离,以及层流壁面边界层的计算精度来说,节点浓度的确定是很重要的。对于湍流的影响则更重要,一般来说任何流管都不应该用少于5个的网格元素来描述。当然,还要考虑到计算机的性能。2.&&光滑性。相邻网格元素体积的变化过大,容易引起较大的截断误差,从而导致发散。Fluent 通过修正网格元素的体积变化梯度来光滑网格。3.&&元素形状。主要包括倾斜和纵横比。一般纵横比要小于5:1。4.&&流场。很倾斜的网格在流动的初始区域是可以的,但在梯度很大的地方就不行。由于不能实现预测该区域的存在,因此要努力在整个区域划分优良的网格。 单/双精度解算器1,&&如果几何体为细长形的,用双精度的;2,&&如果模型中存在通过小直径管道相连的多个封闭区域,不同区域之间存在很大的压差,用双精度。3,&&对于有较高的热传导率的问题和对于有较大的面比的网格,用双精度。4大多数情况下 ,单精度求解器高效准确,但是对于某些问题使用双精度求解器更加适合。1)几何图形长度相差太多:细长管道2)几何图形是由很多层小直径管道包围而成(汽车的集管)平均压力不大,但是局部区域压力可能相当大3)很大热传导或者高比率网格的成对问题 l&&CHECK后要注意是否存在的最小体积为负数,要是有负数要更改单元,以减少求解区域的非物理离散l&&残差变化曲线图由上向下逐渐减少的趋势表明计算具有收敛的可能
模型l&&多相流模型(泥浆流,气泡,液滴,颗粒负载流,分层自由面流动,气动输送)1 VOF模型(volume of fluid)该模型通过求解单独的动量方程和处理穿过区域的每一流体的容积比来模拟两种或者三中不能混合的流体,典型应用包括流体喷射;流体中气泡运动,气液界面的稳态和瞬态处理等。需要一种或者多种不互相融流体间的交界面时可以采用这种模型。应用:活塞流,分层/自由面流动局限:只能使用压力基求解器只有一相可压缩必须有流体存在不能同时计算周期流动问题不能使用二阶稳式的时间格式不能同时计算组分混合和反应流动问题不能用于无粘流动不能用于并行计算中的追踪粒子壁面壳传导不能和这个模型同时计算 2 Mixture 模型该模型用于模拟各相有不同。速度的多相流,但是嘉定了在短空间尺度上局部的平衡。典型的应用包括沉降,气旋分离器、低载荷作用下的多粒子流动、气象容积率很低的泡状流。应用:对于离散相混合物或者单独的离散相体积率超过10%的气泡、液滴和粒子负载流动;均匀流动的气动输送局限:只能使用压力基求解器只有一相可压缩不能同时计算周期流动问题不能用于无粘流动在模拟气穴现象时候,不可以使用大涡流模拟模型多重参考系MRF与此模型同时使用不能使用相对速度公式不能喝固体避免的热传导模拟同时使用不能用于并行计算和颗粒轨道模拟组份混合和反应流动的问题不能和此模型同时使用不能使用二阶稳式的时间格式 3eulerian 模型这三个模型中最复杂的模型。该模型可模拟多相分流及相互作用的相,与离散相模型中eulerian-lagrangian方案只用于离散相不同,在多相流模型中eulerian可用于模型中的每一相,相对于第二种,计算域较小应用:对于离散相混合物或者单独的离散相体积率超过10%的气泡、液滴和粒子负载流动;粒子流,流化床,泥浆流和水力输送,沉降局限:k- 模型能用于紊流颗粒跟踪只与主相相互作用不能同时计算周期流动问题不能用于 模拟和凝固的过程不能用于无粘流动不能用于并行计算和颗粒轨道模拟不允许存在压缩流动不考虑热传输相同的质量传输只存在于气穴问题中,在蒸发和压缩过程中是不可行的不能使用二阶稳式的时间格式 l&&热传导& &通过求解能量方程,可以计算流体和固体区域之间的传热问题1define-models-energy2如果是粘性流动,执行define-models -viscous3定义热边界条件define-boundary conditions&&热流量、温度、对流热传导、外部辐射、外部辐射和外部对流热传导4定义热传导材料属性define-materials&&温度极限:solve-controls-limitsl&&浮力驱动流动和自然对流(加热流体,而且流体密度对这温度变化时候,流体会由于重力的原因而导致的密度的变化。这种流动现象被称为自然对流或者混合对流)1define-models-energy2define-operation conditons选择重力选型3如果使用不可压理想气体定律,需要在操作条件面板中检查操作的压力的数值为非0值 l&&粘性模型 && &&进行无粘流计算
&& &&层流模拟
&&Spalart-allmaras&&1针对于大网格的低成本端流模型,适用于模拟中等复杂的内流和外流以及压力梯度下的边界层流动(螺旋桨,翼型,机身,导弹和船体等)&&2用于求解动力涡粘输送方程,不必要去计算和局部剪切层厚度相关的常速尺度
&&标准&&k-& &&&&&鲁棒性最好,优点和缺点非常明确,适用于初始迭代、设计选型和参数研究RNG k-& &&&适用于设计快速应变、中等涡和局部转捩(lie)&&的复杂剪切流动eg边界层分离,块状分离,涡的后台阶分离室内通风Realizable k-& &&&与前一个性能累死,但是计算精度优于它
&&标准k-& &&&&&在模拟近壁面边界层,自由剪切和低雷诺数流动时性能最好。可以用于模拟转捩和逆压梯度下的边界层(空气动力学中的外流模拟和旋转机械);2壁面约束流动和自由剪切流动SST k-& &&&与标准型类似,但是对壁面距离的依赖使得他不适合用于模拟自由剪切流动;2近壁面区有更加好的精度和算法稳定性
&&雷诺应力&&最好的基于雷诺平均的端流模型,避免各项同性涡粘性假设,需要更多的CPU时间和内存消耗,适用于模拟强旋转流和复杂的三维流动eg飓风流动,燃烧室高速旋转流,管道中二次流 &&分离涡模拟&&改善了大涡模拟的近壁处理&&,比大涡模拟更加实用,可以模拟大雷诺数的空气动力学流动
&&混合长度模型&&零方程模型,模拟简单的流动,计算量小大涡流模型模拟瞬态的大尺度涡,通常和F W H噪音模拟联合使用V2F端流模型与标准k-& &&&相似,但结合了近壁端流各向异性和非局部压力应变效应
l&&辐射模型 define-modals-radiation火焰辐射传热、表面辐射传热、导热、对流与辐射的耦合问题、采取、通风等
l&&组分模型define-modals-species
1通用有限速率模型2非预混合燃烧模型,主要用于模拟端流扩散火焰设计3预混合燃烧模型,主要用于完全预混合的燃烧系统4部分预混燃烧模型用于非预混合燃烧和完全预混燃烧结合的系统5该模型用于预混、非预混及部分预混火焰
l&&离散相模型define-modals-discretephase用于预测连续相中优于端流漩涡作用对于颗粒造成的影响,离散相的加热或者冷却,液滴的蒸发与沸腾、崩裂与合并,模拟煤粉5燃烧等l&&凝固和融化define-modals-solidification&melting要求给出mushy zone constant,一般在10^4---10^7之间材料定义define-materials边界条件define-boundary conditions《
流动入口和出口1,& & 使用流动边界条件。一共有始终相关的条件:1,速度入口边界条件,定义进口边界的速度和标量性质。2,压力入口边界条件:定义进口边界的总压和其他的标量值。3,质量流动入口边界条件:用于在可压缩流中表示进口的质量流量。在不可压流中不需要,因为密度一定时,速度边界就确定了该值。4,压力出口边界条件用于表示流动出口处的静压和其他标量(当存在回流时)。此时用它代替流出物边界条件能够提高迭代的收敛性!5,压力远场边界条件:用于模拟一个具有自由流线的可压缩流动在无穷远处的指定了马赫数和静力条件的情况。6,流出物边界条件用于模拟流动出口处的速度和压力边界条件都不知道时的情况。这种情况在出口处的流动接近完全发展的流动状态是比较合适,该条件假设在出口的法向方向除了压力外其他的流动变量的梯度都是0。不适用于压缩流的计算。7,进口泄口的边界条件用于模拟在进口处有指定的流动损失系数,流动方向,周围总压和温度的有泄口的进口条件。8,进气风扇边界条件:用于模拟一个外部的进气风扇,有指定的压力上升,流动方向和周围的总压和温度。9,出口泄口边界条件:出口处的泄口边界条件,但是要求指定静压和温度。10,排气风扇边界条件:出口处的风扇边界,要求指定静压。。》 l&&单项流中,(质量守恒方程)该源项为0 1)入口边界条件压力入口:需要输入驻店总压,驻点总温,流动方向,静压,端流参数,辐射参数,化学组分质量百分比,混合分数和变化,程序变量,离散相边界条件,次要相的体积分数在计算喷管热燃气流场时,可以给出压力入口条件,其中需要输入的主要参数有总压、静压、总温等,用于压力已知质量入口:需要输入质量流速和质量流量,总温,降压,流动方向,端流参数,辐射参数,化学组分质量百分数,混合分数和变化,发展变量,离散相边界条件可用于可压流动规定入口的质量流速。在模拟冷却通道内的流动时候,通常在冷却剂流量已知的情况下,可以给出质量入口条件。由于入口边界上的质量流量给定,入口压力在计算的收敛过程中是变化的。如果冷却剂在冷却通道内的流动时认为不可压缩的或者是弱压缩,则可以用速度入口代替质量流量入口速度入口:需要输入速度大小与方向或者速度分量,旋转速度,温度,outflow gauge pressure for calculations with the coupled solvers,端流参数,辐射参数,化学组分质量百分数,混合分数和变化,发展变量,离散相边界条件,二级相的体积分数用于定义流动入口边界的速度和标量。在这个边界条件中,流动总的驻点的属性不是固定的,所以无论什么时候提供流动速度描述,他们都会增加的。这一边界条件适用于不可压流动,如果用于可压流动则会导致非物理结果,这是允许驻点条件浮动。不要让速度入口靠近固体妨碍物,否则会导致流动入口煮点属性具有太高的非一致性。进气口;用于模拟具有制定的损失系数,流动方向以及周围入口环境总压合纵纹进气口& && & 需要输入总压,总温,流动方向,静压,端流参数,辐射参数,化学组分质量百分数,混合分数和变化,发展变量,二级相的体积分数,损失系数进气扇:用于模拟外部进气扇,具有指定的压力跳跃,流动方向以及周围进气口)总压和总温的外部进气扇流动& && & 需要输入总压,总温,流动方向,静压,端流参数,辐射参数,化学组分质量百扥书,呼和分数和变化,发展变量,离散相边界条件,二级相的体积分数,压力跳跃2)压力出口压力出口:需要再出口边界处指定静压。静压值的指定值用于亚音速流动。如果当地流动变为超音速,则不再使用指定压力,此时压力要从内部流动中推导,所有其他的流动属性都从内部推到。在燃气流场和冷却通道的计算中,都可以使用出口压力边界条件。该条件需要给定出口边界上的静压强,如果当地速度超过音速,则需要根据来流 外推 出口边界条件无穷远压力边界:在计算某些外流场时候,可以给出去穷远处压力边界条件,该边界适用于理想气体定律计算密度的问题,在边界上需要给出静压,温度和马赫数质量出口:出气口边界条件,用于模拟出气口,具有指定的损失系数以及周围环境的静压及静温排气扇边界条件,用于模拟外部排气扇,具有指定的压力跳跃以及周围环境的静压决定端流参数,在入口,出口或者远场边界流入流域的流动3)对称边界条件具有一定几何特征的物理模型,可取其部分进行计算,例如,轴对称喷管可以取半根冷却通道进行计算,截取后的中间平面给出对称边界条件设置求解参数& &选择压力与速度求解耦合的算法& &Equation在求解过程中可以点击某个方程来关闭Limits&&一般来说不要改变默认值 l&&设置监视参数solve-monitor-residual,勾选plot绘制残差图,有大变小有可能说明收敛l&&流场初始化solve-initialize-initialize,compute from 选择特定区域名称,再点击初始化 后处理 fluxes显示流量fores边界上的作用力、projected areas计算投影面积surface integral计算表面积分和体积分
Histogram直方图
contours等值线和云图vectors速度矢量pathlines显示轨迹
链接: 密码:游客,如果您要查看本帖隐藏内容请
有奖推广贴子:<input type="text" onclick="this.select();setCopy('FLUENT UDF应用实体教程\nhttp://www.ugsnx.com/thread-.html', '帖子地址已经复制到剪贴板您可以用快捷键 Ctrl + V 粘贴到 QQ、MSN 里。');" value="http://www.ugsnx.com/thread-.html" size="40" class="px" style="vertical-align:" />&<button type="submit" class="pn" onclick="setCopy('FLUENT UDF应用实体教程\nhttp://www.ugsnx.com/thread-.html', '帖子地址已经复制到剪贴板您可以用快捷键 Ctrl + V 粘贴到 QQ、MSN 里。')">点击复制
五级士官, 积分 965, 距离下一级还需 35 积分
五级士官, 积分 965, 距离下一级还需 35 积分
阅读权限65
在线时间42 小时
五级士官, 积分 965, 距离下一级还需 35 积分
五级士官, 积分 965, 距离下一级还需 35 积分
阅读权限65
在线时间42 小时
顶顶顶顶顶顶
二级士官, 积分 261, 距离下一级还需 239 积分
二级士官, 积分 261, 距离下一级还需 239 积分
阅读权限40
在线时间32 小时
二级士官, 积分 261, 距离下一级还需 239 积分
二级士官, 积分 261, 距离下一级还需 239 积分
阅读权限40
在线时间32 小时
二人热热热热热热
上等兵, 积分 101, 距离下一级还需 99 积分
上等兵, 积分 101, 距离下一级还需 99 积分
阅读权限20
在线时间2 小时
上等兵, 积分 101, 距离下一级还需 99 积分
上等兵, 积分 101, 距离下一级还需 99 积分
阅读权限20
在线时间2 小时
少尉, 积分 2259, 距离下一级还需 741 积分
少尉, 积分 2259, 距离下一级还需 741 积分
阅读权限75
在线时间42 小时
少尉, 积分 2259, 距离下一级还需 741 积分
少尉, 积分 2259, 距离下一级还需 741 积分
主题<a href="http://www.ugsnx.com/home.php?mod=space&uid=2010846&do=thread&type=thread&view《Kafka Stream》调研:一种轻量级流计算模式
《Kafka Stream》调研:一种轻量级流计算模式
流计算,已经有Storm、Spark,Samza,包括最近新起的Flink,Kafka为什么再自己做一套流计算呢?Kafka Stream 与这些框架比有什么优势?Samza、Consumer Group已经包装了Kafka轻量级的消费功能,难道不够吗?
花了一些时间阅读[docs](http
Confluent Inc(原LinkedIn Kafka作者离职后创业公司)在6月份预告推出Kafka Stream,Kafka Stream会在Kafka 0.10版本中推出。
对于流计算,已经有Storm、Spark,Samza,包括最近新起的Flink,Kafka为什么再自己做一套流计算呢?Kafka Stream 与这些框架比有什么优势?Samza、Consumer Group已经包装了Kafka轻量级的消费功能,难道不够吗?
花了一些时间阅读 和一些PPT,写一份粗略的调研材料供大家参考。
什么是流计算?流是计算的一个连续计算类型
Single:例如HTTP,发送一个Request请求、返回一个Response
Batch:将一组作业提交给计算机,返回一组,优势是减少IO等待时间
Stream:Batch异步过程,任务和任务之间没有明显的边界
流计算一般有哪些方式?
DIY 简单实现
以wordcount来作例子,我们可以启动一个server,内存中建立一个HashMap,把输入先分词,然后根据word视图更新HashMap。是不是很简单?但带来的问题是什么?
如果挂了,数据都被清空,数据重复怎么办?
如果数据量非常大,一块内存放不下怎么办?
如果在多台机器上部署,如何保证分配策略和先后顺序?
我们把这些问题做一个分类,主要有这样几个:
规模和切片
状态类计算(例如TopK,UV等)
时间、窗口等相关问题
利用现有框架
比较成熟度的框架有:Apache Spark, Storm(我们公司开源Jstorm),
Samza 等。第三方有:Google’s DataFlow,AWS Lambda
现有框架的好处是什么?
强大计算能力,例如Spark Streaming上已经包含Graph Compute,MLLib等适合迭代计算库,在特定场景中非常好用。
问题是什么?
使用起来比较复杂,例如将业务逻辑迁移到完备的框架中,Spark RDD,Spout等。有一些工作试图提供SQL等更易使用模式降低了开发门槛,但对于个性化ETL工作(大部分ETL其实是不需要重量级的流计算框架的)需要在SQL中写UDF,流计算框架就退化为一个纯粹的容器或沙箱。
作者认为部署Storm,Spark等需要预留集群资源,对开发者也是一种负担。
Kafka Stream定位是轻量级的流计算类库,简单体现在什么方面?
所有功能放在Lib中实现,实现的程序不依赖单独执行环境
可以用Mesos,K8S,Yarn和Ladmda等独立调度执行Binary,试想可以通过Lamdba+Kafka实现一个按需付费、并能弹性扩展的流计算系统,是不是很cool?
可以在单集成、单线程、多线程进行支持
在一个编程模型中支持Stateless,Stateful两种类型计算
编程模型比较简洁,基于Kafka Consumer Lib,及Key-Affinity特性开发,代码只要处理执行逻辑就可以,Failover和规模等问题由Kafka本身特性帮助解决
个人感觉Kafka Lib是Samza一个增强版(Samza也是Linkedin与Kafka深度集成的流计算框架),将来可以替换Samza,但无法撼动Spark、Flink等语义上比较高级的流计算系统地位,只能做一些轻量级流处理的场景(例如ETL,数据集成,清洗等)。
Kafka Stream 例子
先来看一个例子,通过Kafka Stream代码开发:
这里面做了这样几件事情:
构建了Kafka中数据序列化/反序列化方式
构建了2个计算节点
分词(flatMapValues),并将结果根据Key来Map
Reduce(根据Key来计算结果)
将结果写到Kafka一个结果Topic中(增量方式)
在2个结算节点中,使用了一个Kafka Topic将计算结果序列化、并反序列化。相当于Map-Reduce中Streamline。
这段程序可以执行在一个Thread中,也可以执行在N台机器上,主要归结于Kafka Consumer Lib可以帮助对数据与计算解耦分离。
Processor:Processor是一个基本的计算节点
public interface Processor&K, V& {
void process (K key, V Value);
void punctuate(long time stampe);
Stream: Processor 处理后后结果输出
两者的关系如图:
Kafka Stream如何解决流计算中6个问题:
保序(Ordering)
对Kafka而言,在一个Partition(Shard)下,数据是先进先出严格有序的,因此不是问题。
分区与规模(Partition & Scalability)
流计算规模取决于2个因素:数据是否能线性扩容、计算能否线性扩容。
Kafka中的数据通过Partition方式划分,每个Partition严格有序,可以做到弹性伸缩(实际上目前版本中弹性伸缩是不完整的,Kafka在0.10版本中能提供完全弹性伸缩的能力)。
Kafka对于消费端提供Consumer Group功能,可以扩展消费Instance达到与Partition同样的水平扩展能力,过程中保证一个消费Instance只能消费一个Partition。
故障恢复(Fault Tolerance)
Kafka Consumer Group已实现了负载均衡,因此当有消费实例crash时也能保证迅速未完成的任务,过程中数据不丢,可能会重复(取决于消费checkpoint配合)
状态处理(State)
这个问题相对比较复杂,在流计算场景中,分为两类计算:
Stateless(无状态):例如Filter,Map,Joins,这些只要数据流过一遍即可,不依赖于前后的状态
Stateful(有状态):主要是基于时间Aggregation,例如某段时间的TopK,UV等,当数据达到计算节点时需要根据内存中状态计算出数值
Kafka Stream 提供了一个抽象概念KTable,KStream来解决状态存储和数据变化的问题,见下面的章节解释。
重放(Reprocessing)
在了解了RedoLog和State后,重放这个概念并不难理解
基于时间窗口计算(Time, Windowsing)
时间是流计算的一个重要熟悉,因为在现实过程中数据采集往往并不是很完美的,历史数据的到来会打断我们对计算的假设。时间有两个概念:
Event Time: 物理时间中的客观时间,代表事件发生时的一刻
Processing Time: 实际处理的时间(到达服务器时间)
虽然Processing Time对处理比较容易,但因历史数据的影响,采用Event Time更为准确。一个零售业中比较典型的场景是:统计每10分钟内每个产品的销量(或网站每个时间点UV、PV的统计)。销售数据可能会从不同的渠道实时流入,因此我们必须依赖于销售数据产生的时间点来作为窗口,而不是数据达到计算的点。
Kafka Stream用一种比较简单粗暴方式来解决这个问题,他会给每个windows一个状态,这个状态只是代表当前时刻的数值,当有新数据达到该窗口时,状态就被改变了。对于windows based aggregation,Kafka Stream做法是:
Table (状态数据) + Library = Stateful Service
Stream & Table
为了实现状态的概念,Kafka 抽象了两种实体Kstream, KTable
Stream 等同于数据库中Change log
等同于数据库在一个时间点Snapshot,两个不同的Snapshot之间通过1个或多个changelog造成
假设有2个流,一个流是送货,另外一个流是销售,我们对着两个流进行Join,获得当前的库存状态:
shipment stream:
store code
sale stream:
store code
当这两个流中的记录先后达到情况下,会影响库存状态,整个库存的变化状态如下:
我们把这两个流放到Kafka Stream中,就会看到一个Processor节点中的状态变化如下:
基于状态数据,我们可以在该节点定义处理的逻辑:
if (state.inventory[item].size & 10)
else if (state.inventory[item] & 100)
KTable,KStream可能比较抽象,KafkaStream包装了high-level DSL,直接提供了filter, map, join等算子,当然如果有个性化需求可以使用更低抽象程度API来完成。
粗浅的看法
流计算场景中,是否会有两个极端:复杂内存操作+迭代计算,轻量级数据加工与ETL。这两个比例分别占据多少?在我们常用的ETL场景里,大部分其实是轻量级Filter,LookUP,Write Storage等操作,有时候我们为了对数据做加工,不得不借助一个执行容器去选择流计算的框架。Docker,Lamdba可以解决这类问题,但需要有一定流计算的开发量。
我觉得对轻量级ETL场景,一个而理想的架构是Kafka Stream这样的轻量级计算库+Lamdba,这样就能做到安全按需使用的流计算模式。
Kafka Stream有一些关键东西没有解决,例如在join场景中,需要保证来源2个Topic数据Shard个数必须是一定的,因为本身做不到MapJoin等技术。在之前的版本中,也没有提供EventTime等Meta字段。
用云栖社区APP,舒服~
【云栖快讯】直播推荐——现在报名3月12日编程语言系列讲座,与行业资深专家一起学习Python、C++、JavaScript、Java!还可在活动页面领取红包,百分百中奖哦!&&
博主,Kafka Streaming有用在生产环境吗?效果如何?
目前比较少,Kafka Stream主要也是Confluent.io 提出的流计算模式,是Kappa延伸。但流计算核心思路和Flink其实是同类,而后者生态和社区更为活跃。
楼主,是不是会存在,stream运行一段时间,kafka的磁盘空间会越来越大,不减少,这样的话如何避免呢?kafka stream
对于store状态的存储,具体的历史数据删除是通过什么机制的?
博主, 请教一下, 本文中这些手绘的图, 是用什么软件绘制的?
阿里云流计算(Aliyun StreamCompute)是运行在阿里云平台上的流式大数据分析...
提供一种性能卓越、稳定、安全、便捷的计算服务,帮助您快速构建处理能力出色的应用,解放计算给服...
针对日志类数据的一站式服务,用户无需开发就能快捷完成数据采集、消费、投递以及查询分析等功能,...
为您提供简单高效、处理能力可弹性伸缩的计算服务,帮助您快速构建更稳定、安全的应用,提升运维效...}

我要回帖

更多关于 geoframe加载层位udf 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信